Sektor finansowy mierzy się z ogromnym wyzwaniem związanym z szybką adopcją generatywnej sztucznej inteligencji. Według raportu Fortinet, większość banków nie nadąża z dostosowywaniem mechanizmów obronnych do tempa wdrażania nowych technologii, co rodzi ryzyko zjawiska shadow AI, czyli korzystania z narzędzi AI poza kontrolą działów bezpieczeństwa.
Cyberprzestępcy coraz częściej wykorzystują nowe możliwości, stosując techniki zatruwania modeli (AI model poisoning) oraz zaawansowany phishing. Szczególnie niepokojący jest gwałtowny wzrost liczby oszustw wykorzystujących deepfake audio i wideo, który w 2024 roku wyniósł aż 1300%. Badania wskazują, że nawet niewielka liczba złośliwych dokumentów może wystarczyć do wprowadzenia backdoorów do dużych modeli językowych.
Kluczowym problemem jest traktowanie AI jako odizolowanego komponentu. Modele te korzystają z tych samych systemów tożsamości i sieci co reszta infrastruktury, więc bezpieczeństwo AI musi być integralną częścią architektury IT. Instytucje muszą również monitorować cały cykl życia rozwiązań AI oraz rygorystycznie oceniać ryzyko u dostawców zewnętrznych, gdyż naruszenia w ekosystemach partnerów są powszechne w sektorze finansowym.
