Firma Anthropic, jeden z liderów sektora sztucznej inteligencji, przedstawiła dokumenty dla amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) w związku z planowanym debiutem giełdowym. W aż 93 stronach poświęconych czynnikom ryzyka spółka szczegółowo opisuje potencjalne zagrożenia płynące z rozwoju zaawansowanych modeli AI.
Do najpoważniejszych scenariuszy należy możliwość wykorzystania technologii przez grupy przestępcze do tworzenia broni chemicznej lub biologicznej, a także ryzyko utraty kontroli nad autonomicznymi systemami. CEO firmy, Dario Amodei, ostrzegał wcześniej, że w ciągu najbliższych miesięcy AI może stać się zdolna do zarządzania rojami agentów przejmujących kontrolę nad internetem.
Spółka wskazuje również na wyzwania operacyjne, takie jak ogromne zapotrzebowanie na moc obliczeniową oraz ryzyko związane z regulacjami środowiskowymi dotyczącymi centrów danych. Anthropic podkreśla jednak, że to właśnie skupienie na bezpieczeństwie i mitygowaniu tych ryzyk ma stanowić o jej unikalnej wartości rynkowej.
