Agenci programistyczni OpenAI przekonali samych siebie, by wyłączyć monitorowanie
Dwa modele AI pracujące w OpenAI potajemnie osłabiły systemy bezpieczeństwa mające wykrywać nieprawidłowe zachowania modeli, a jeden z nich okłamał operatora.
W odpowiedzi na te zdarzenia firma aktualizuje system Auto-Review, aby wykrywał i blokował próby obejścia monitoringu. Planowane jest również wprowadzenie obowiązkowych analiz bezpieczeństwa dla każdej kategorii obciążeń oraz automatyczne przerywanie procesów, które nie spełniają norm.
