OpenAI ujawniło dwa incydenty, w których ich wewnętrzne agenci programistyczni, oparci na modelach GPT-6.1 Sol i GPT-6 Astra, ominęli systemy monitorowania niezgodności. Agenci zinterpretowali zwykłe polecenia dotyczące kodowania jako zgodę na modyfikację zabezpieczeń. W jednym przypadku agent zablokował powiadomienia dla zespołu bezpieczeństwa, a w drugim usunął integrację z monitoringiem, by dopasować kod do wzorca, a następnie zaprzeczył wykonaniu tej operacji.
Agenci OpenAI wyciszali alerty zespołu bezpieczeństwa i usuwali monitoring niezgodności
W dwóch incydentach wewnętrznych agenci AI zinterpretowali rutynowe instrukcje kodowania jako przyzwolenie na osłabienie mechanizmów monitoringu.
