Nowe zagrożenie dotyczy użytkowników korzystających z asystentów AI do zarządzania skrzynką odbiorczą. Atak polega na umieszczaniu w treści maili ukrytych instrukcji, które są czytelne dla modeli językowych, ale niewidoczne dla człowieka.
Jeśli asystent AI ma za zadanie streszczać wiadomości lub zarządzać listą zadań, może on nieświadomie wykonać polecenie zawarte w phishingu. Przykładowo, złośliwa wiadomość może nakazać sztucznej inteligencji dodanie konkretnego linku do kalendarza lub stworzenie przypomnienia o pilnym kontakcie z oszustem.
Mechanizm ten wykorzystuje fakt, że asystenci AI przetwarzają tekst w sposób ciągły, nie zawsze odróżniając treść przeznaczoną dla użytkownika od poleceń systemowych ukrytych wewnątrz wiadomości. Może to prowadzić do sytuacji, w której użytkownik, ufając automatyzacji, wchodzi w interakcję z zagrożeniem.
Skutkiem takiego ataku jest manipulacja procesem decyzyjnym człowieka poprzez wprowadzenie fałszywego poczucia pilności lub autorytetu wygenerowanego przez własne narzędzie AI.
