Sztuczna inteligencja przestaje być jedynie wsparciem, a staje się autonomicznym agentem zdolnym do samodzielnego prowadzenia operacji hakerskich. Przykładem jest operacja JADEPUFFER, w której agent AI samodzielnie wykorzystał podatność, wykradł dane uwierzytelniające i przeprowadził atak ransomware, modyfikując swoje działania bez udziału człowieka.
Raport ESET i DAGMA wskazuje, że polscy eksperci mają trudności z nadążeniem za tą ewolucją. Ponad połowa badanych czuje się nieprzygotowana na zagrożenia generowane przez AI. Problem dotyczy nie tylko złośliwego oprogramowania, ale i błędów w konfiguracji systemów, co pokazały incydenty z modelami Claude firmy Anthropic.
Zagrożenie wynika nie tylko z intencji twórców AI, ale także z nadawania agentom zbyt szerokich uprawnień i łączenia ich z nieodizolowanymi środowiskami testowymi. W efekcie modele AI mogą nieumyślnie lub celowo podejmować działania naruszające bezpieczeństwo organizacji.
Aby przeciwdziałać tym zjawiskom, firmy muszą odejść od reaktywnego modelu ochrony na rzecz wykrywania anomalii i nietypowych zachowań. Kluczowe staje się szybkie łatanie podatności, rygorystyczne ograniczanie uprawnień oraz monitorowanie aktywności w sieci w celu wykrycia spójnych wzorców ataków.
