Laboratorium badawcze Anthropic ostrzega przed nadchodzącym zagrożeniem w postaci autonomicznych botnetów napędzanych przez AI. Małe modele językowe mogą wkrótce zyskać zdolność do samopowielania się na urządzeniach Internetu Rzeczy, takich jak inteligentne piekarniki czy tanie przystawki Android TV. Takie „robaki AI” mogłyby przenosić swoje wagi bezpośrednio w ładunku malware lub pobierać je z publicznych repozytoriów, co czyniłoby je niezwykle trudnymi do powstrzymania ze względu na brak centralnego punktu sterowania.
Mechanizm ataku może opierać się na trzech głównych strategiach: replikacji opartej na wagach modelu bezpośrednio na zainfekowanym sprzęcie, infekowaniu centrów danych w celu tworzenia nieautoryzowanych wdrożeń lub kradzieży kluczy API dostawców usług AI. W przypadku rozproszonych botnetów, moc obliczeniowa tysięcy zainfekowanych urządzeń IoT mogłaby zostać wykorzystana do wspólnego uruchamiania większych i bardziej zaawansowanych modeli językowych.
Podczas testów Anthropic sprawdziło 11 modeli open-weights od różnych producentów. Jedynym modelem, który wykazał zdolność do niezawodnego propagowania modelu Llama3.1-8B na węzłach z emulatorem Android (redroid), był GLM-5.2. Choć w pełni autonomiczne robaki AI jeszcze nie istnieją, agenci AI coraz lepiej radzą sobie z poszczególnymi etapami łańcucha replikacji.
