Indyjski zespół CERT-In przedstawił nowe wytyczne dotyczące audytowania systemów sztucznej inteligencji. Dokument wprowadza ramy oparte na ryzyku, które obejmują organizacje wdrażające AI w Indiach lub przetwarzające tamtejsze dane. Systemy te są klasyfikowane do czterech poziomów ryzyka: niskiego, umiarkowanego, wysokiego oraz krytycznego, co bezpośrednio wpływa na częstotliwość i zakres audytów.
Wytyczne koncentrują się na dziewięciu kluczowych obszarach, takich jak zarządzanie danymi, etyka, odporność na ataki typu adversarial oraz przejrzystość modeli. Szczególny nacisk położono na specyficzne technologie, w tym modele LLM, systemy RAG oraz agentic AI. Dokument określa również modele nadzoru ludzkiego, takie jak Human-in-the-Loop czy Human-on-the-Loop, zależnie od stopnia autonomii systemu.
W ramach procedur audytowych, organizacje muszą stosować się do rygorystycznych terminów naprawczych. W przypadku wykrycia krytycznych lub poważnych uchybień, wymagane jest przygotowanie planów działań naprawczych oraz regularne raportowanie postępów. Nowe przepisy mają zapewnić większą kontrolę nad cyklem życia AI, od projektowania aż po wycofanie systemu z eksploatacji.
