Firma Anthropic ogłosiła rozszerzenie programu dla profesjonalistów z branży cyberbezpieczeństwa pod nazwą Cyber Verification Program (CVP). Inicjatywa ta ma na celu umożliwienie ekspertom testowania zaawansowanych modeli AI, takich jak Claude Opus czy Sonnet, przy znacznie mniejszym poziomie blokad i filtrów bezpieczeństwa. Program oferuje trzy poziomy dostępu: Defense, Red Team oraz Specialized, dostosowane do potrzeb obrony, testów penetracyjnych i badania systemów bezpieczeństwa.
Decyzja ta wynika z wyników projektu Glasswing, w ramach którego wykryto ponad 129 tysięcy zweryfikowanych podatności w oprogramowaniu. Znaczna część z nich została sklasyfikowana jako krytyczna lub o wysokim priorytecie. Anthropic chce, aby specjaliści mogli wykorzystywać te same narzędzia, które mogą trafić w ręce cyberprzestępców, do wzmacniania systemów obronnych.
Analizy wskazują jednak na pewne wyzwania związane z wykorzystaniem AI w bezpieczeństwie. Choć modele te skutecznie znajdują błędy, tylko niewielki odsetek z nich jest faktycznie wykorzystywany w realnych atakach. Dodatkowo, raporty wskazują, że kod generowany przez AI może wprowadzać nowe ryzyka, a skuteczność poprawki bezpieczeństwa tworzonych przez sztuczną inteligencję pozostaje na relatywnie niskim poziomie.
