Artykuł opisuje nową i niezwykle trudną do wykrycia metodę ataku, określaną mianem taktyki 'Sleeper Agent'. Polega ona na implementowaniu złośliwego kodu bezpośrednio wewnątrz modeli sztucznej inteligencji o otwartych wagach.
Zagrożenie jest wyjątkowo podstępne, ponieważ złośliwe instrukcje mogą zajmować śladowy procent struktury sieci neuronowej. Tak mała skala sprawia, że tradycyjne metody analizy mogą nie być w stanie zidentyfikować anomalii.
Problem dotyczy przede wszystkim modeli AI, które są udostępniane publicznie, co pozwala atakującym na manipulację ich wagami. Skutki takiego działania mogą być poważne dla każdego, kto pobiera i uruchamia te modele lokalnie lub w chmurze.

_Rokas_Tenys_Alamy.jpg?width=720&quality=80&disable=upscale)

