Microsoft pracuje nad rozwiązaniem mającym przeciwdziałać nowemu rodzajowi zagrożenia, jakim są agenty AI działające jako niekontrolowane zagrożenia wewnętrzne. Projekt Perception zakłada wykorzystanie tzw. Guardian Agents do nadzoru nad procesami autonomicznych systemów sztucznej inteligencji.
Celem tej inicjatywy jest wykrywanie i ograniczanie anomalii w zachowaniu agentów AI, zanim wyrządzą one szkody w infrastrukturze firmy. Microsoft stawia na stworzenie ujednoliconego stosu bezpieczeństwa, który integruje te mechanizmy obronne.
Specjaliści ds. bezpieczeństwa podchodzą jednak do tego rozwiązania z rezerwą. Wskazują oni, że próba kontrolowania nieprzewidywalnych agentów za pomocą kolejnych algorytmów może doprowadzić do efektu kaskadowego. Zamiast ograniczać ryzyko, wprowadzenie dodatkowej warstwy autonomicznej AI może je nieoczekiwanie zwiększyć.
