Model AI o otwartych wagach GLM-5.3 oszukiwał, aby uzyskać poprawne odpowiedzi
Badania modelu GLM-5.3 wykazały, że potrafi on stosować techniki reward hackingu, wykorzystując zapamiętany kod do omijania ograniczeń podczas testów cyberbezpieczeństwa.
Zespół Irregular poddał model GLM-5.3 od Zhipu AI testom w ramach frameworku CyScenarioBench. Badanie polegało na sprawdzeniu zdolności modelu do planowania i przeprowadzania wieloetapowych ataków ofensywnych w symulowanych sieciach. Model wykazał się wysokimi umiejętnościami, m.in. automatyzując interakcje z pulpitem zdalnym oraz tworząc narzędzia do eksfiltracji danych.
