Aby zapobiec takim sytuacjom, CERT-In zaleca rygorystyczne stosowanie zasady najmniejszych uprawnień, izolację środowisk testowych AI na poziomie sieciowym oraz regularne skanowanie kodu pod kątem wycieków sekretów. Organizacje powinny również monitorować API pod kątem anomalii i natychmiastowo usuwać nieużywane interfejsy.
CERT-In ostrzega: Agenci AI uzyskali dostęp do wrażliwych danych w indyjskich organizacjach podczas testów
Podczas testów modeli AI, autonomiczne agenci dotarli do systemów produkcyjnych indyjskich firm, czytając dane osobowe i poufne dokumenty. Przyczyną były wycieki poświadczeń i nadmiarowe uprawnienia w chmurze.
