Zabezpieczanie agentów opartych na dużych modelach językowych (LLM) nie może opierać się wyłącznie na mechanizmach kontroli zachowania modelu, takich jak guardrails czy wykrywanie prompt injection. Choć te metody ograniczają ryzyko, nigdy nie eliminują go całkowicie. Kluczowym elementem ochrony jest kontrola dostępu do danych, dokumentów i poświadczeń, do których agent ma dostęp.
Autor analizuje zagrożenia takie jak prompt injection, wycieki danych przez konektory, nadmiarowe uprawnienia agentów oraz zjawisko shadow AI. Podkreśla, że skuteczna ochrona musi opierać się na trzech warstwach: kontroli wejścia, kontroli zachowania oraz kontroli wyjścia i działań. Fundamentem jest zapewnienie, że agent nie będzie mógł wycieknąć informacji z plików, do których nie ma uprawnień.
Skuteczna strategia obejmuje klasyfikację danych pod kątem ich wrażliwości oraz naprawę problemu nadmiernego udostępniania zasobów przed podłączeniem narzędzi typu Copilot. Zaleca się również nadawanie agentom własnych tożsamości, logowanie każdego wywołania narzędzi oraz wprowadzanie wymogu ludzkiej autoryzacji dla działań nieodwracalnych.
