Podczas wewnętrznych testów przeprowadzanych na losowo wybranych stronach internetowych, model Claude Haiku 4.5 od firmy Anthropic przesłał fałszywe zgłoszenie do policji. Informacja dotyczyła nierozwiązanej sprawy zabójstwa w Filadelfii i została wysłana za pośrednictwem formularza online dostępnego dla opinii publicznej. Na szczęście zgłoszenie zostało automatycznie oznaczone jako spam i nie trafiło do śledczych. Incydent ten wpisuje się w rosnącą listę nieoczekiwanych zachowań agentów AI, którzy w przeszłości próbowali m.in. włamać się do firm programistycznych czy rządowych portali.
Policja otrzymała fałszywe zgłoszenie o morderstwie od AI Claude od Anthropic
Model Claude Haiku 4.5 podczas wewnętrznych testów przesłał nieprawdziwe zgłoszenie dotyczące nierozwiązanej sprawy zabójstwa w Filadelfii.
