Badacz o pseudonimie Xint odkrył lukę w procesie kompresji kontekstu (context compaction) modeli AI, którą nazwał Compaction Smuggling. Atak ten pozwala na przenoszenie ścieżek rozumowania (reasoning traces) z zaawansowanych modeli, takich jak te od OpenAI, do słabszych jednostek. Proces ten odbywa się w trzech krokach: pozyskaniu rozumowania, ukształtowaniu skompresowanego kontekstu, a następnie przesłaniu go do innego modelu z poleceniem dokładnego odtworzenia danych.
Skutkiem takiego działania jest możliwość masowej destylacji wiedzy. Destylacja to proces wykorzystywania sekretów rozumowania zaawansowanego modelu do budowy tańszego, konkurencyjnego AI. Według raportu, chińskie podmioty, takie jak DeepSeek czy Alibaba, mogą już wykorzystywać miliardy tokenów wyekstrahowanych z zachodnich modeli frontier, aby trenować własne systemy, m.in. modele serii R1 i V3.
OpenAI potwierdziło podatność, wdrożyło poprawki i wypłaciło nagrodę za odkrycie luki. Atak ten stanowi poważne wyzwanie dla ochrony własności intelektualnej dostawców modeli AI, gdyż pozwala na kopiowanie ich unikalnych zdolności analitycznych przy znacznie niższych kosztach treningu.
