Analitycy z Barracuda Research zidentyfikowali nową formę zagrożenia, w której jedna wiadomość e-mail realizuje dwa cele jednocześnie. Atakujący stosują klasyczną socjotechnikę, aby zmylić ludzkiego odbiorcę, oraz techniki prompt injection, aby zmanipulować systemy AI przetwarzające pocztę.
Instrukcje dla sztucznej inteligencji są ukrywane w warstwach niewidocznych dla człowieka, takich jak komentarze HTML, tekst o zerowej wielkości czcionki czy biały tekst na białym tle. Dzięki temu asystenci AI, którzy podsumowują lub priorytetyzują wiadomości, mogą otrzymać fałszywe polecenia.
Zaobserwowano przypadki, w których ataki te miały na celu wymuszenie zmiany danych płatniczych dostawcy, manipulację automatycznym przesiewaniem CV czy nawet instruowanie asystentów programistycznych, aby wstawiali złośliwy kod do generowanych funkcji uwierzytelniających. Organizacje muszą zacząć chronić nie tylko użytkowników, ale także systemy AI konsumujące dane z poczty.
