Po okresie masowego i szybkiego wdrażania sztucznej inteligencji, organizacje wchodzą w fazę, w której muszą udowodnić bezpieczeństwo i realną wartość tej technologii. Eksperci ostrzegają, że samo wdrożenie narzędzi AI to za mało – kluczowe staje się zarządzanie nimi, szczególnie w kontekście autonomicznych agentów AI, którzy już teraz potrafią działać samodzielnie.
Jednym z głównych wyzwań jest brak kontroli nad dostępami dla agentów AI, co dotyczy ponad połowy badanych firm. Gartner zaleca, aby CISO skupili się na ograniczaniu uprawnień tych systemów, co pozwoli zminimalizować skutki ewentualnych błędów lub nadużyć. Ważnym aspektem jest również walka z deepfake'ami, które stały się powszechnym narzędziem socjotechniki.
Organizacje muszą również zmierzyć się z ryzykiem w łańcuchu dostaw, szczególnie w przypadku komponentów open source wykorzystywanych do budowy aplikacji AI. Przykładem mogą być ataki na pakiety takie jak Litellm, które prowadziły do kradzieży poświadczeń. Skuteczne podejście wymaga odejścia od strategii reaktywnej na rzecz proaktywnego zarządzania podatnościami i infrastruktury.
