XMASKNEWS
Aktualizacja:
Help Net SecurityEN→PLAI

Liczba błędów wykrywanych przez AI ma wzrosnąć; OpenAI proponuje pięcioetapowy plan reagowania

OpenAI opracowało pięcioetapowy proces zarządzania krytycznymi podatnościami w popularnym oprogramowaniu, zainspirowany wykryciem luk w PHP za pomocą modeli AI.

OpenAI przedstawiło nowy model reagowania na krytyczne podatności, które mogą dotknąć wiele systemów jednocześnie. Inicjatywa powstała po wykryciu luk w języku PHP przy użyciu modeli GPT, co pokazało rosnący potencjał sztucznej inteligencji w poszukiwaniu błędów w kodzie. Firma przewiduje, że liczba takich znalezisk będzie gwałtownie rosnąć, co stanowi wyzwanie zarówno dla obrońców, jak i napastników korzystających z AI.

Proponowany proces składa się z pięciu etapów: od potwierdzenia błędu i testowania łatek przy pomocy modeli AI, przez wczesne powiadamianie dystrybutorów i dostawców usług, aż po zaangażowanie organów rządowych i szerokie udostępnienie poprawek. Kluczowym elementem jest kontrolowane udostępnianie wrażliwych informacji, takich jak dowody koncepcji (PoC), wybranym podmiotom o kluczowym znaczeniu dla bezpieczeństwa infrastruktury.

OpenAI kładzie nacisk na to, że czas na reakcję może być bardzo krótki, gdy narzędzia AI stają się powszechnie dostępne. Plan zakłada również współpracę z instytucjami takimi jak CISA czy Biały Dom, aby zapewnić skoordynowaną odpowiedź na zagrożenia o skali globalnej. Ostatecznym celem jest stworzenie systemu ciągłego skanowania internetu, który automatycznie powiadamiałby właścicieli stron lub samodzielnie aplikował poprawki.