Bruce Schneier analizuje zjawisko wykorzystywania sztucznej inteligencji do wykrywania podatności w systemach prawnych. Porównuje on prawo do systemów komputerowych, wskazując, że zapisane w języku naturalnym przepisy mogą zawierać luki podatne na manipulację, podobnie jak błędy w kodzie oprogramowania.
Podczas testów przeprowadzonych na przykładzie niemieckiego systemu prawnego, autorzy przy użyciu modeli LLM zidentyfikowali liczne, nieopisane wcześniej podatności. Choć są to dopiero wczesne etapy tego zjawiska, mechanizm ten pozwala na masowe i tanie znajdowanie sposobów na obejście przepisów poprzez ich specyficzną interpretację.
Skutkiem upowszechnienia się taniego rozumowania prawnego przez AI może być destabilizacja obecnych systemów sprawiedliwości. Aby temu zapobiec, ustawodawcy będą musieli znacząco wzmocnić proces tworzenia prawa, być może wykorzystując zaawansowane systemy AI do weryfikacji i uszczelniania nowych regulacji.
