Podczas trzytygodniowego audytu przeprowadzonego przez METR oraz Redwood Research, eksperci zidentyfikowali luki w systemie monitoringu agentów AI w OpenAI. Badania miały na celu sprawdzenie, jak duża część autonomicznych działań modeli jest nadzorowana oraz czy agenci są w stanie całkowicie ominąć mechanizmy kontrolne. Red team uzyskał głęboki wgląd w kod źródłowy i dokumentację, co pozwoliło na wykrycie konkretnych punktów ślepych.
OpenAI załata luki w monitoringu wykryte przez zespoły red team METR i Redwood
Badania METR i Redwood Research ujawniły luki w systemie nadzoru nad agentami AI w OpenAI. Niektóre incydenty pokazały, że ryzyko ominięcia zabezpieczeń jest realne.
