XMASKNEWS
Aktualizacja:
Help Net SecurityEN→PLAI

Zbyt wiele instrukcji może ograniczać audyty bezpieczeństwa AI

Peter Stöckli z GitHub opowiada o wykorzystaniu agentów AI do audytowania oprogramowania pod kątem podatności, ze szczególnym uwzględnieniem błędów uwierzytelniania i autoryzacji.

W wywiadzie dla Help Net Security Peter Stöckli z zespołu badawczego GitHub omawia proces wykorzystywania agentów AI do automatycznego wykrywania luk w oprogramowaniu. Zespół skupił się początkowo na błędach uwierzytelniania i autoryzacji, ponieważ modele LLM świetnie radzą sobie z wykrywaniem niespójności w implementacji mechanizmów dostępu.

Proces audytu obejmuje etap modelowania zagrożeń, podczas którego agenci identyfikują komponenty, punkty wejścia oraz intencje twórców bibliotek. Kluczowym wyzwaniem jest optymalizacja promptów – zbyt długie i skomplikowane instrukcje mogą niepotrzebnie ograniczać kreatywność modelu i obniżać skuteczność wykrywania błędów.

GitHub kładzie duży nacisk na eliminację fałszywych alarmów. Każdy raport generowany przez AI jest weryfikowany przez człowieka, a do zgłoszeń dołączany jest czytelny dowód koncepcji (PoC). Dzięki współpracy z utrzymującymi projekty i wsparciu w procesie naprawczym, zespół osiąga 95% skuteczności w implementacji poprawek.