Raport Booz Allen Hamilton opisuje testy przeprowadzone w kontrolowanym środowisku laboratoryjnym, które odwzorowywało działanie zakładu przemysłowego. Badania wykazały, że zaawansowane modele AI potrafią samodzielnie realizować zadania wymagające dotychczas specjalistycznej wiedzy, nawet bez dostępu do szczegółowej dokumentacji technicznej.
Podczas eksperymentów AI zdołała zrealizować wszystkie wyznaczone cele, w tym rozpoznawanie urządzeń w sieci, wyszukiwanie luk i przejmowanie kontroli nad systemami. W jednym przypadku przejście od naruszenia sieci do sterowania procesami zajęło zaledwie 16 minut, a w innym AI przejęła kontrolę nad ramieniem robota w kilka minut.
Szczególnie niebezpiecznym scenariuszem okazała się manipulacja systemami SCADA. Model potrafił samodzielnie korygować swoje błędy i modyfikować obrazy wyświetlane na ekranach operatorów, co mogłoby służyć do ukrywania rzeczywistego stanu instalacji przed personelem. Takie działania w infrastrukturze krytycznej, jak energetyka czy wodociągi, mogą prowadzić do uszkodzeń sprzętu lub zagrożenia życia.
Eksperci zalecają wzmocnienie ochrony poprzez ścisłą segmentację sieci biurowych od przemysłowych (OT), lepszą kontrolę dostępu oraz monitorowanie nietypowych zmian w pracy urządzeń. Kluczowe jest również opracowanie procedur szybkiego przywracania sprawności instalacji oraz rozważenie wykorzystania AI do wsparcia procesów obronnych i detekcji zagrożeń.
