Firma Redact odkryła w kodzie HTML stron pomocy WhatsApp ukryte bloki tekstu, które służyły jako instrukcje dla wsparcia opartego na AI. Instrukcje te, niewidoczne dla zwykłego użytkownika, nakazywały chatbotowi nie polecać kontaktu z organami ochrony danych (takimi jak irlandzka komisja ochrony danych) osobom, które miały problem z usunięciem konta. Co więcej, w przypadku wspomnienia przez użytkownika o prawniku lub procesie sądowym, bot miał unikać cytowania przepisów RODO i regulaminów firmy.
WhatsApp tłumaczy, że instrukcje te miały na celu zapewnienie trafnych odpowiedzi i zapobieganie udzielaniu porad prawnych przez bota, a ich obecność na stronach była wynikiem błędu, który został już naprawiony. Badanie wykazało, że podobnych instrukcji było łącznie 102 na 80 różnych stronach pomocy, choć większość dotyczyła kwestii mniej kontrowersyjnych, jak wyjaśnianie terminologii.
Instrukcje te były przesyłane do wyszukiwarek oraz crawlerów AI, choć nie wiadomo, czy modele językowe faktycznie stosowały się do tych wytycznych w rozmowach z użytkownikami. Sytuacja ta rzuca światło na ryzyko związane z tzw. prompt injection lub ukrytymi instrukcjami (system prompts) umieszczanymi bezpośrednio w treściach dostępnych dla modeli AI.
