Firma bezpieczeństwa Xint odkryła lukę w mechanizmie compaction stosowanym przez OpenAI. Funkcja ta, mająca na celu oszczędność miejsca poprzez kompresję kontekstu rozmowy, pozwalała na wyciągnięcie zaszyfrowanego dotąd procesu rozumowania modelu (reasoning) i zamianę go na czytelny tekst. Atak polegał na poleceniu modelowi skopiowania ukrytego rozumowania do skompresowanego elementu, co pozwalało ominąć filtry polityki użytkowania poprzez drobne modyfikacje formatowania, takie jak zamiana spacji na tabulatory.
Metoda ta okazała się skuteczna nawet po wprowadzeniu przez OpenAI poprawek w sierpniu, które miały blokować próby odtwarzania rozumowania między różnymi modelami. Ponieważ proces compaction odbywał się na tym samym modelu, który generował rozumowanie, mechanizm kontrolny nie wykrywał nieprawidłowości. Badacze potwierdzili skuteczność techniki na modelu gpt-5.6-sol, używając do tego zagadek matematycznych i algorytmicznych.
OpenAI potwierdziło problem i wprowadziło poprawkę 23 października. Luka ta stanowiła zagrożenie dla ochrony własności intelektualnej, ponieważ dostęp do surowego procesu rozumowania ułatwia proces destylacji modeli, czyli trenowanie tańszych modeli na danych generowanych przez potężniejsze systemy. Choć metoda Xint nie była odnotowana w rzeczywistych atakach, pokazuje ona, jak procesy serwerowe przetwarzające dane modelu mogą stać się wektorem wycieku informacji.
