Firmy dostarczające rozwiązania bezpieczeństwa coraz częściej wykorzystują archiwa incydentów swoich klientów do trenowania modeli sztucznej inteligencji. Choć ma to służyć poprawie skuteczności systemów, proces ten niesie ze sobą poważne zagrożenia dla prywatności i poufności danych.
Wykorzystanie wrażliwych logów i raportów do uczenia maszynowego może prowadzić do niekontrolowanego wycieku informacji o infrastrukturze lub lukach wewnątrz organizacji. Przedsiębiorstwa muszą teraz brać pod uwagę, że ich własne dane historyczne mogą stać się częścią publicznych lub komercyjnych modeli AI.
Wymusza to na działach bezpieczeństwa rewizję umów z dostawcami oraz większą kontrolę nad tym, jakie dane są udostępniane do celów szkoleniowych. Kluczowe staje się zrozumienie, w jaki sposób dane o incydentach są anonimizowane i czy proces ten jest w pełni skuteczny.
