Raport Proofpoint wskazuje na fundamentalną zmianę w krajobrazie ataków phishingowych i BEC (Business Email Compromise). Dzięki generatywnej sztucznej inteligencji napastnicy mogą tworzyć wiadomości pozbawione błędów językowych, idealnie dopasowane do kontekstu rozmowy oraz unikalne dla każdego odbiorcy, co czyni tradycyjne filtry behawioralne nieskutecznymi. Dotychczasowe systemy opierały się na wykrywaniu wzorców, takich jak podejrzana składnia czy powtarzalne szablony, które AI skutecznie eliminuje.
Analiza pokazuje, że ataki stają się trudniejsze do wykrycia, ponieważ każda wiadomość może wyglądać na naturalną i pochodzić z wiarygodnego źródła. Przykładem jest kampania wymierzona w agentów nieruchomości, gdzie AI wygenerowało dziesiątki unikalnych zapytań o nieruchomości, aby ostatecznie nakłonić ofiary do dołączenia do złośliwego spotkania wideo. Podobne techniki są stosowane w kampaniach mających na celu nękanie kadry zarządzającej za pomocą zmanipulowanych obrazów lub w zaawansowanym phishingu typu device-code.
W obliczu tych zmian, eksperci sugerują przejście od analizy tego, jak wiadomość wygląda, do analizy tego, co ma na celu. Skuteczna obrona musi skupić się na wykrywaniu intencji, takich jak próba zmiany danych bankowych dostawcy czy wymuszanie pilnych działań poza ustalonym kanałem komunikacji, nawet jeśli sama treść e-maila wydaje się w pełni poprawna i bezpieczna.
