Amerykańscy kongresmeni, w tym Ro Khanna, zwrócili się do czołowych firm zajmujących się sztuczną inteligencją, takich jak OpenAI, Google czy Meta, z pytaniami o ochronę wag modeli. Wagi, czyli parametry decydujące o możliwościach AI, stanowią kluczowy zasób, którego kradzież jest znacznie groźniejsza niż zwykły wyciek danych klientów. Skradziony model można uruchomić na własnej infrastrukturze GPU niemal natychmiast, co pozwala atakującym uniknąć ogromnych kosztów treningu.
Artykuł rozróżnia kradzież wag od destylacji modeli (wykorzystywania odpowiedzi API do trenowania własnych systemów) oraz ekstrakcji danych treningowych. W przypadku destylacji, jak w przypadku incydentu z firmami DeepSeek i Moonshot, atakujący nie przejmuje samego modelu, lecz jedynie naśladuje jego zachowanie.
Naukowcy z Harvardu i MATS zaproponowali w swoich badaniach nową metodę ochrony przed eksfiltracją wag. Wskazują oni na ryzyko wykorzystania steganografii, gdzie atakujący może ukrywać dane wagowe wewnątrz standardowych odpowiedzi generowanych przez model. Metoda ta pozwalałaby na przemycanie informacji w ogromnym ruchu sieciowym centrów danych, co utrudnia detekcję.
