Artykuł analizuje ryzyka wynikające z używania agentów AI typu UI, które działają bezpośrednio w przeglądarce użytkownika. Twórcy narzędzia Rehearsal zauważyli, że taki agent przejmuje pełną tożsamość i uprawnienia człowieka, co uniemożliwia skuteczną kontrolę nad jego działaniami. Gdy agent operuje wewnątrz aktywnej sesji, aplikacja widzi jedynie użytkownika, nie rozróżniając, czy akcję podjął człowiek, czy automat.
Zbudowaliśmy agenta, który złamał wszystkie nasze zasady bezpieczeństwa. Oto czego się nauczyliśmy
Twórcy platformy Token opisują wyzwania związane z bezpieczeństwem agentów AI działających w sesjach użytkowników i podpowiadają, jak ograniczyć ich uprawnienia.

_Rokas_Tenys_Alamy.jpg?width=720&quality=80&disable=upscale)

