W wywiadzie dla Help Net Security Michael Scott, CISO w firmie Immuta, analizuje specyficzne zagrożenia wynikające z wdrażania autonomicznych agentów AI. Zwraca uwagę, że agenci nie powinni automatycznie dziedziczyć wszystkich uprawnień swojego użytkownika, ponieważ ich sposób działania jest nieprzewidywalny i może prowadzić do nieplanowanego wykorzystania zasobów, takich jak API.
Scott wskazuje na problem tzw. rozrostu uprawnień (privilege creep), który w przypadku AI przebiega inaczej niż u ludzi. Agenci mogą tworzyć pod-agentów lub korzystać z zewnętrznych narzędzi, co sprawia, że łańcuch autoryzacji staje się trudny do śledzenia. Może to prowadzić do sytuacji, w której zespoły bezpieczeństwa widzą jedynie logi konta serwisowego, nie wiedząc, kto i dlaczego zainicjował dany proces.
Ekspert podkreśla, że sama uwierzytelnienie agenta nie wystarczy do zapewnienia bezpieczeństwa. Kluczowe jest wdrożenie mechanizmów kontroli, które pozwolą ograniczyć dostęp agenta do danych tylko do niezbędnego minimum wymaganego dla konkretnego zadania. Scott przewiduje, że w ciągu najbliższych 18 miesięcy co najmniej dwa duże przedsiębiorstwa spoza sektora AI doświadczą poważnych incydentów związanych z bezpieczeństwem lub prywatnością w tym obszarze.
