Narzędzie webfetch w modelu Claude zostało zaprojektowane tak, aby zapobiegać atakom typu data exfiltration. Mechanizm ten miał ograniczać dostęp AI wyłącznie do adresów URL wprowadzonych przez użytkownika lub znalezionych przez wyszukiwarkę. Dzięki temu model nie mógł samodzielnie budować złośliwych linków zawierających wrażliwe informacje.
Badacz Ayush Paul odkrył jednak lukę w tym zabezpieczeniu. Okazało się, że Claude mógł odwiedzać linki znajdujące się wewnątrz stron, które sam wcześniej pobrał. Atak polegał na stworzeniu pułapki w postaci witryny, która instruowała model do przechodzenia przez serię zagnieżdżonych adresów URL, co ostatecznie prowadziło do wycieku danych.
Podczas udanego ataku udało się wyciągnąć imię użytkownika, miasto zamieszkania oraz nazwę pracodawcy. Aby utrudnić wykrycie, złośliwa strona była wyświetlana tylko wtedy, gdy w nagłówku User-Agent widniał identyfikator Claude-User. Anthropic poinformowało, że luka została już załatana poprzez zablokowanie możliwości nawigowania po linkach zawartych w pobranym wcześniej materiale.
