Cisco ogłosiło otwarcie kodu projektu Quarry, który ma rozwiązać problem wykrywania zaawansowanych ataków na agentów AI. Tradycyjne systemy bezpieczeństwa często zawodzą, ponieważ oceniają pojedyncze, niegroźne czynności, zamiast analizować ich kontekst i cel. Atakujący potrafią rozbić złośliwe działania na wiele małych, rutynowych zadań, które dopiero w odpowiedniej sekwencji ujawniają swój prawdziwy charakter, np. próbę kradzieży danych.
Quarry to neurosymboliczny język reguł, który łączy uczenie maszynowe z klasycznymi sprawdzami logicznymi. Pozwala on na monitorowanie rozmów z modelami LLM, użycia narzędzi oraz interakcji w ramach Model Context Protocol (MCP). Rozwiązanie to może służyć jako warstwa polityk bezpieczeństwa, zapewniając ochronę w czasie rzeczywistym lub umożliwiając analizę incydentów po fakcie.
Projekt ma ambicję stać się otwartym standardem dla detekcji ataków na agentów AI, podobnie jak YARA czy Sigma w innych dziedzinach cyberbezpieczeństwa. Dzięki wtyczce Quarry, inżynierowie oraz same agenty programistyczne mogą tworzyć i testować nowe reguły na podstawie opisów w języku naturalnym, co ma przyspieszyć reakcję na nowe techniki napastników.
