Artykuł analizuje dynamiczny proces wdrażania sztucznej inteligencji w centrach operacji bezpieczeństwa (SOC). Autor zauważa, że tempo adopcji AI przewyższyło oczekiwania, co wynika z konieczności walki z coraz szybszymi atakami napędzanymi przez AI. Organizacje coraz częściej odchodzą od traktowania AI jedynie jako narzędzia do streszczania alertów, powierzając jej bardziej odpowiedzialne zadania w cyklu życia incydentu.
Kluczem do sukcesu i budowania zaufania do systemów AI nie jest pełna autonomia od pierwszego dnia, lecz stopniowe przekazywanie kompetencji. Proces ten zaczyna się od roli asystenta, który zbiera dowody i proponuje działania do zatwierdzenia przez analityka. Dopiero po zbudowaniu historii trafnych i wyjaśnialnych wniosków, zespoły pozwalają systemom na działanie w ramach zdefiniowanych granic.
Autor podkreśla znaczenie architektury danych. Narzędzia, które nakładają modele językowe na tradycyjne warstwy danych, często popełniają błędy podczas próby rekonstrukcji relacji między zasobami. Skuteczniejsze rozwiązania opierają się na fundamentach zaprojektowanych pod AI, takich jak grafy wiedzy semantycznej, które pozwalają modelom rozumować na podstawie faktów i kontekstu biznesowego, a nie tylko zgadywać.
Z perspektywy liderów bezpieczeństwa (CISO), kluczowe staje się zadawanie pytań o zdolność systemu do prezentowania dowodów, korelacji danych z różnych źródeł oraz zachowania w sytuacjach braku danych lub konfliktów informacji. W obliczu zagrożeń ze strony napastników używających agentów AI, defensywa musi dążyć do automatyzacji procesów, aby nadążyć za tempem eksploatacji podatności.
