Raport badawczy: Sygnatury dywergencji odpowiedzi jako wskaźnik podatności modeli LLM na jailbreaki
Nowa analiza reprezentacji wewnętrznych 15 modeli open-source pokazuje, że podatność na jailbreaki pozostawia mierzalne, specyficzne dla danej rodziny ślady w stanach ukrytych.
Badanie wskazuje także na specyfikę typów ataków. Najsilniejszą korelację z mierzalną dywergencją wewnętrzną wykazały techniki oparte na autorytecie (authority framing) oraz manipulacji kontekstem, co pozwala na lepszą detekcję prób obejścia zabezpieczeń na poziomie reprezentacji wewnętrznych.
