
Raport badawczy: Sygnatury dywergencji odpowiedzi jako wskaźnik podatności modeli LLM na jailbreaki
Nowa analiza reprezentacji wewnętrznych 15 modeli open-source pokazuje, że podatność na jailbreaki pozostawia mierzalne, specyficzne dla danej rodziny ślady w stanach ukrytych.
- Można wykrywać próby jailbreaku poprzez monitorowanie dystansu cosinusowego między stanami ukrytymi dla zapytań bezpośrednich i tych z szablonem ataku.
- Skuteczny jailbreak objawia się mierzalnym tłumieniem wektora odpowiedzialnego za odmowę (refusal direction) w warstwach wewnętrznych modelu.


















