Frontier Model Forum, zrzeszające największych graczy w branży AI, takich jak OpenAI, Google czy Microsoft, opublikowało pierwszy system oceny zagrożeń typu jailbreak. Narzędzie to ma ujednolicić sposób, w jaki laboratoria i regulatorzy klasyfikują próby obejścia zabezpieczeń modeli w celu przeprowadzania cyberataków.
Framework opiera się na czterech kluczowych parametrach: przyroście możliwości ofensywnych, zakresie tych możliwości, łatwości wdrożenia techniki oraz łatwości jej odkrycia. Na podstawie tych danych system przypisuje zagrożeniu ocenę w dwóch osiach: powagi (Severity) oraz prawdopodobieństwa (Likelihood).
Wynikiem końcowym jest klasyfikacja ryzyka od znikomego (Negligible) do krytycznego (Critical). Taki podział ma ułatwić priorytetyzację prac nad zabezpieczeniami oraz umożliwić badaczom bezpieczeństwa spójne raportowanie nowych podatności.
Projekt powstał przy współpracy z AI Security Institute (AISI). Obecnie trwa okres konsultacji społecznych, a framework ma być regularnie aktualizowany w odpowiedzi na pojawiające się nowe techniki ataków.
