Zespół badawczy Anthropic opublikował raport dotyczący chińskiego modelu GLM-5.3, opracowanego przez Z.ai. Model ten, dostępny jako open-weight, wykazuje niepokojąco wysoką zdolność do generowania działających exploitów, osiągając skuteczność na poziomie około 12%. Wynik ten jest zbliżony do możliwości flagowych, zamkniętych modeli, takich jak Claude Mythos Preview.
Badania wykazały, że zabezpieczenia modelu są niezwykle podatne na obejście. Najskuteczniejszą metodą okazała się technika „abliteration”, która pozwala na chirurgiczne usunięcie mechanizmów odmawiania bezpośrednio z wag modelu. Proces ten osiągnął 100% skuteczności w przełamywaniu blokad.
Kluczowym wnioskiem z raportu jest niski koszt modyfikacji modelu. Usunięcie zabezpieczeń przy użyciu techniki abliteration wymaga około 2200 godzin pracy GPU i kosztuje zaledwie 4400 dolarów. Pozwala to na stworzenie wersji modelu, która zachowuje niemal wszystkie swoje zdolności, ale nie posiada żadnych ograniczeń bezpieczeństwa.
Sytuacja ta podsyca debatę nad bezpieczeństwem modeli typu open-weight. Choć NIST uznał GLM-5.3 za najbardziej zdolny model otwartoźródłowy, Anthropic podkreśla, że łatwość, z jaką można usunąć wbudowane bariery ochronne, czyni tradycyjne metody zabezpieczania takich systemów mało skutecznymi.
