W wywiadzie dla Help Net Security Peter Stöckli z zespołu badawczego GitHub omawia proces wykorzystywania agentów AI do automatycznego wykrywania luk w oprogramowaniu. Zespół skupił się początkowo na błędach uwierzytelniania i autoryzacji, ponieważ modele LLM świetnie radzą sobie z wykrywaniem niespójności w implementacji mechanizmów dostępu.
Proces audytu obejmuje etap modelowania zagrożeń, podczas którego agenci identyfikują komponenty, punkty wejścia oraz intencje twórców bibliotek. Kluczowym wyzwaniem jest optymalizacja promptów – zbyt długie i skomplikowane instrukcje mogą niepotrzebnie ograniczać kreatywność modelu i obniżać skuteczność wykrywania błędów.
GitHub kładzie duży nacisk na eliminację fałszywych alarmów. Każdy raport generowany przez AI jest weryfikowany przez człowieka, a do zgłoszeń dołączany jest czytelny dowód koncepcji (PoC). Dzięki współpracy z utrzymującymi projekty i wsparciu w procesie naprawczym, zespół osiąga 95% skuteczności w implementacji poprawek.



