Sztuczna inteligencja rewolucjonizuje pracę w centrach operacji bezpieczeństwa, wspierając analityków w analizie podatności oraz inżynierii detekcji. Modele LLM pomagają w tworzeniu reguł SIEM oraz skryptów do analizy pakietów i metadanych Zeek. Wykorzystanie agentów AI pozwala na szybszą triażę incydentów i redukcję liczby fałszywych alarmów, co jest szczególnie pomocne dla mniej doświadczonych pracowników.
Z drugiej strony, napastnicy adaptują te same narzędzia do przeprowadzania skoordynowanych operacji agentowych, tworzenia exploitów typu zero-day oraz tworzenia przekonujących kampanii socjotechnicznych. Pojawia się również problem nowych podatności w samych modelach AI.
Aby bezpiecznie wdrażać AI, organizacje muszą zwrócić uwagę na zjawisko shadow AI oraz rygorystycznie przestrzegać zasady najmniejszych uprawnień. Kluczowe jest audytowanie wprowadzanych zmian oraz wykorzystanie monitoringu sieciowego do śledzenia sposobu, w jaki sztuczna inteligencja jest używana wewnątrz firmy.
