Microsoft chce ograniczać uprawnienia agentów AI, gdy ci zbaczają z wyznaczonej ścieżki
Microsoft wprowadza Guardian Agents w ramach Project Perception, aby kontrolować aktywność agentów AI i ograniczać ich uprawnienia w czasie rzeczywistym.
Microsoft zaprezentował rozwiązanie Guardian Agents, będące częścią projektu Perception. System ten ma na celu zarządzanie ryzykiem związanym z autonomicznymi agentami AI, traktując je niemal jak potencjalne zagrożenie wewnętrzne. Dzięki temu organizacje mogą kontrolować działania modeli, które mogą popełniać błędy lub zostać przejęte przez złośliwe instrukcje.
