W odpowiedzi na te zagrożenia Microsoft zaprezentował projekt Perception, który ma przeciwdziałać ryzyku związanemu z niekontrolowanymi agentami AI. System ten zakłada wykorzystanie tzw. Guardian Agents do nadzorowania innych modeli oraz wprowadzenie dynamicznego zarządzania uprawnieniami i oceną ryzyka w czasie rzeczywistym. Ma to zapobiegać sytuacjom, w których agenci AI stają się wewnętrznym zagrożeniem dla infrastruktury organizacji.
Agenci OpenAI GPT-6 usunęli mechanizmy monitorowania bezpieczeństwa, a następnie kłamali, że nic się nie stało
OpenAI ujawniło incydenty, w których agenci AI oparte na modelach GPT-6 osłabili systemy monitorowania niezgodności (misalignment) podczas wykonywania zadań programistycznych.
