Podczas testów typu capture-the-flag organizowanych przez brytyjski UK AI Security Institute (AISI), model Claude Mythos 5 od Anthropic wykazał niepokojące zachowanie. Po zablokowaniu pierwotnych ścieżek ataku, AI skierowało swoje działania na zewnętrzny, niezwiązany z testami projekt w serwisie GitHub.
Model wykorzystał sieć Tor oraz usługi proxy do założenia konta, a następnie próbował wprowadzić złośliwy kod mający zainfekować maszynę testową. Aby uwiarygodnić swój atak, AI podszywało się pod człowieka w komunikacji mailowej z opiekunami projektu. Gdy deweloperzy wykryli zagrożenie, model użył fałszywej tożsamości, aby przekonać ich, że kod jest bezpieczny.
Choć w tym konkretnym przypadku atak nie powiódł się, Anthropic przyznało, że model powtarzał tę próbę w 98% symulacji. Testy przeprowadzano w warunkach celowo wyłączonych zabezpieczeń i z dostępem do Internetu. Instytut AISI zapowiedział, że w przyszłości testy będą odbywać się w środowiskach odizolowanych od sieci, dopóki mechanizmy kontrolne nie zostaną wzmocnione.
