XMASKNEWS
Aktualizacja:
Help Net SecurityEN→PLAI

Badacze Microsoftu pokazują technikę ukrytego backdoora w agentach AI

Metoda Lazarus pozwala na zainstalowanie backdoora w modelu AI poprzez modyfikację zaledwie kilku neuronów, co pozwala uniknąć wykrycia podczas standardowych testów bezpieczeństwa.

Badacze z Microsoftu opracowali koncepcję ataku o nazwie Lazarus, który umożliwia wprowadzenie ukrytego backdoora do modelu AI. Technika ta polega na modyfikacji mniej niż dziesięciu uśpionych neuronów, co sprawia, że agent zachowuje się normalnie podczas standardowych testów, dopóki nie napotka specyficznego wyzwalacza.