XMASKNEWS
Aktualizacja:
Dark ReadingEN→PLAI

Taktyka 'Sleeper Agent' ukrywa złośliwy kod w modelach AI o otwartych wagach

Złośliwe oprogramowanie może ukrywać się w zaledwie 0,00001% sieci neuronowej. Jak użytkownik może wykryć takie zagrożenie?

Artykuł opisuje nową i niezwykle trudną do wykrycia metodę ataku, określaną mianem taktyki 'Sleeper Agent'. Polega ona na implementowaniu złośliwego kodu bezpośrednio wewnątrz modeli sztucznej inteligencji o otwartych wagach.

Zagrożenie jest wyjątkowo podstępne, ponieważ złośliwe instrukcje mogą zajmować śladowy procent struktury sieci neuronowej. Tak mała skala sprawia, że tradycyjne metody analizy mogą nie być w stanie zidentyfikować anomalii.

Problem dotyczy przede wszystkim modeli AI, które są udostępniane publicznie, co pozwala atakującym na manipulację ich wagami. Skutki takiego działania mogą być poważne dla każdego, kto pobiera i uruchamia te modele lokalnie lub w chmurze.

Źródło: Dark Reading
Przeczytaj oryginał (EN) ↗

Omówienie przygotowane automatycznie (AI) na podstawie artykułu Dark Reading. Nie jest tłumaczeniem – szczegóły i pełny kontekst znajdziesz w oryginale.