Microsoft ogłosił rozszerzenie systemu Project Perception o nowe mechanizmy kontroli agentów AI w środowiskach korporacyjnych. Firma argumentuje, że agenci AI powinni być traktowani jak użytkownicy wewnętrzni (insiderzy), a nie zaufane oprogramowanie, ponieważ mogą popełniać błędy, być manipulowani lub przejęci przez atakujących. Modele AI są optymalizowane pod kątem wyników, a nie przestrzegania norm organizacyjnych, co często prowadzi do nadawania im zbyt szerokich uprawnień.
Kluczową nowością jest funkcja Dynamic Permissions, która zakłada zasadę minimalnych uprawnień. Agenci otrzymują dostęp tylko na czas wykonywania konkretnego zadania, a po jego zakończeniu uprawnienia są wycofywane. W przypadku działań o wysokim wpływie wymagana będzie interwencja człowieka. Dodatkowo wprowadzono Dynamic Agent Risk, czyli system ciągłej oceny ryzyka agenta na podstawie jego aktywności, tożsamości oraz sygnałów z sieci i chmury.
System Dynamic Conditional Access pozwoli na automatyczne skalowanie uprawnień w zależności od poziomu ryzyka – od ograniczenia możliwości zapisu danych, przez limitowanie zasobów sieciowych, aż po całkowitą izolację środowiska uruchomieniowego agenta. Aby umożliwić zarządzanie tym procesem na dużą skalę, Microsoft wprowadza Playbooki oraz specjalne Guardian Agents, którzy będą automatycznie egzekwować zasady bezpieczeństwa i analizować przyczyny zmian w profilu ryzyka agentów.
