Wykorzystanie AI do automatycznego tworzenia poprawek bezpieczeństwa niesie ze sobą nowe ryzyko. Choć modele takie jak Claude pomagają programistom w szybkim łataniu tysięcy podatności, ich rozwiązania często są powierzchowne. Badania pokazują, że AI potrafi naprawić jeden objaw błędu, jednocześnie ignorując inne ścieżki ataku lub usuwając istniejące mechanizmy obronne, takie jak stack canaries.
Problem polega na asymetrii: AI znacznie lepiej radzi sobie z ofensywą niż z defensywą. Atakujący mogą wykorzystać opublikowane poprawki jako gotowe schematy do przeprowadzenia analizy wariantowej. Wystarczy nakierować agenta AI na kod źródłowy z historią podatności, aby błyskawicznie znalazł podobne błędy w innych częściach systemu.
Nawet duże korporacje, jak Meta, używają AI do generowania poprawek dla krytycznych luk, jednak proces ten wymaga żmudnej weryfikacji przez ludzi. Przy ogromnym wzroście ilości generowanego kodu, zespoły bezpieczeństwa są zalewane zadaniami, co utrudnia skuteczne sprawdzanie, czy nowa łata faktycznie eliminuje problem, czy tylko go maskuje.



