Wykorzystanie zaawansowanego modelu AI, Claude Mythos, pozwoliło firmie Epic Systems na wykrycie krytycznych błędów w konfiguracjach systemu MyChart. Luka ta umożliwiała nieautoryzowanym osobom dostęp do rekordów medycznych pacjentów w taki sposób, że operacja ta nie pojawiała się w dziennikach audytowych, co uniemożliwiało wykrycie incydentu.
Epic zdecydował się na radykalne kroki, wstrzymując rozwój nowych funkcji na około sześć tygodni, aby skupić inżynierów wyłącznie na eliminowaniu tych podatności. System MyChart obsługuje ponad 320 milionów rekordów pacjentów w USA, co czyni skalę problemu niezwykle istotną dla bezpieczeństwa danych medycznych.
Odkrycie to jest częścią programu Project Glasswing realizowanego przez Anthropic, w którym partnerzy tacy jak Amazon, Apple czy Microsoft testują modele AI w celach defensywnych. Program ten wykazuje ogromną skuteczność, znajdując luki, których tradycyjne metody testowania nie wykryły przez lata, w tym błędy w systemach OpenBSD czy FFmpeg.
