Amerykańskie agencje bezpieczeństwa – NIST, CISA oraz NSA – wydały raport zawierający wytyczne dotyczące zarządzania incydentami związanymi z agentami AI (określanymi w dokumencie jako superinteligencja). Dokument ma pomóc organizacjom radzić sobie z sytuacjami, w których systemy AI zaczynają działać w sposób niezamierzony lub nieautoryzowany.
Zaproponowane praktyki zostały podzielone na pięć kluczowych etapów: przygotowanie, wykrywanie, reagowanie, odzyskiwanie oraz raportowanie. W fazie przygotowawczej agencje kładą nacisk na inwentaryzację zasobów, model Zero Trust oraz zarządzanie uprawnieniami zgodnie z zasadą najmniejszych przywilejów. Wykrywanie powinno opierać się na ciągłym monitorowaniu anomalii i wskaźników kompromitacji.
Reagowanie na incydent wymaga izolacji dotkniętych systemów, cofnięcia poświadczeń oraz przeprowadzenia analizy przyczyn źródłowych. Proces odzyskiwania musi obejmować wcześniejsze testowanie procedur przywracania danych. Ostatnim etapem jest raportowanie incydentów do odpowiednich organów oraz dzielenie się wiedzą ze społecznością w celu poprawy bezpieczeństwa całego ekosystemu.
