Cisco wprowadza nowe funkcje do swojej platformy AI Defense, koncentrując się na zabezpieczaniu autonomicznych agentów AI. W przeciwieństwie do prostych chatbotów, agenci posiadają dostęp do narzędzi i danych, co czyni ich znacznie atrakcyjniejszym celem dla napastników. Nowe rozwiązanie oferuje algorytmiczny red teaming, który automatycznie testuje modele pod kątem słabych punktów.
System wykorzystuje wieloagentowe struktury atakujące, które współpracują ze sobą i dynamicznie zmieniają taktykę. Testy obejmują ponad 200 kategorii ryzyka, w tym ataki typu prompt injection oraz wycieki danych. Platforma wspiera również ciągły monitoring agentów już po ich wdrożeniu, co pozwala na wykrywanie anomalii w ich działaniu w środowisku produkcyjnym.
Cisco udostępniło także darmową wersję Explorer Edition, która pozwala organizacjom na szybką ewaluację modeli i agentów. Narzędzie to wspiera popularne frameworki agentowe oraz testuje podatności specyficzne dla agentów, takie jak pośredni prompt injection poprzez kanały treści. Całość opiera się na frameworku zgodnym ze standardami NIST i MITRE oraz wykorzystuje dane z grupy badawczej Cisco Talos.

_Rokas_Tenys_Alamy.jpg?width=720&quality=80&disable=upscale)

