XMASKNEWS
Aktualizacja:
Crypto BriefingEN→PLAI

Cisco prezentuje narzędzia do automatycznego red teamingu i monitorowania agentów AI

Cisco rozszerza platformę AI Defense o zautomatyzowany red teaming obejmujący ponad 200 kategorii ryzyka oraz narzędzia do monitorowania agentów AI.

Cisco wprowadza nowe funkcje do swojej platformy AI Defense, koncentrując się na zabezpieczaniu autonomicznych agentów AI. W przeciwieństwie do prostych chatbotów, agenci posiadają dostęp do narzędzi i danych, co czyni ich znacznie atrakcyjniejszym celem dla napastników. Nowe rozwiązanie oferuje algorytmiczny red teaming, który automatycznie testuje modele pod kątem słabych punktów.

System wykorzystuje wieloagentowe struktury atakujące, które współpracują ze sobą i dynamicznie zmieniają taktykę. Testy obejmują ponad 200 kategorii ryzyka, w tym ataki typu prompt injection oraz wycieki danych. Platforma wspiera również ciągły monitoring agentów już po ich wdrożeniu, co pozwala na wykrywanie anomalii w ich działaniu w środowisku produkcyjnym.

Cisco udostępniło także darmową wersję Explorer Edition, która pozwala organizacjom na szybką ewaluację modeli i agentów. Narzędzie to wspiera popularne frameworki agentowe oraz testuje podatności specyficzne dla agentów, takie jak pośredni prompt injection poprzez kanały treści. Całość opiera się na frameworku zgodnym ze standardami NIST i MITRE oraz wykorzystuje dane z grupy badawczej Cisco Talos.

Źródło: Crypto Briefing
Przeczytaj oryginał (EN) ↗

Omówienie przygotowane automatycznie (AI) na podstawie artykułu Crypto Briefing. Nie jest tłumaczeniem – szczegóły i pełny kontekst znajdziesz w oryginale.