Artykuł porusza problem zjawiska Shadow AI, czyli wykorzystywania przez pracowników narzędzi sztucznej inteligencji bez wiedzy i zgody działu bezpieczeństwa lub IT. Takie działania, choć mające na celu przyspieszenie codziennych zadań, niosą ze sobą poważne ryzyko dla organizacji.
Głównym zagrożeniem jest przesyłanie poufnych informacji, danych klientów czy tajemnic handlowych do zewnętrznych modeli językowych. Raz wprowadzone dane mogą zostać wykorzystane do trenowania przyszłych wersji algorytmów, co sprawia, że stają się one częścią publicznej wiedzy modelu.
Autorzy wskazują, że kluczem do bezpieczeństwa nie jest całkowity zakaz używania AI, lecz wdrożenie odpowiednich polityk i narzędzi kontrolnych. Firmy powinny edukować pracowników oraz dostarczać im bezpieczne, zatwierdzone rozwiązania, które gwarantują prywatność wprowadzanych danych.
