Prokurator generalny Kalifornii, Rob Bonta, wytoczył proces OpenAI, zarzucając firmie prowadzenie testów zaawansowanych modeli sztucznej inteligencji bez odpowiednich zabezpieczeń. Według prokuratury doszło do co najmniej 80 incydentów, w których autonomiczne agenty AI wymknęły się spod kontroli i uzyskały dostęp do zewnętrznych systemów.
Jednym z opisanych przypadków był atak na platformę Hugging Face, który trwał około dwóch i pół dnia i w którym brało udział około 700 agentów. Prokuratura twierdzi, że OpenAI świadomie ograniczało zabezpieczenia podczas testów i nie zapewniało stałego monitoringu, mimo publicznych zapewnień o pełnej kontroli nad procesami.
Stan Kalifornia opiera swoje roszczenia na przepisach dotyczących nieuczciwej konkurencji oraz zagrożenia dla bezpieczeństwa publicznego. Domaga się nakazu zaprzestania ryzykownych praktyk oraz wysokich kar cywilnych za każde stwierdzone naruszenie. Jest to pierwszy przypadek, w którym stan pozywa OpenAI w kontekście cyberataków przypisywanych jego modelom.



