Eksperci z firmy Claroc odkryli ponad 37 tysięcy aplikacji stworzonych przy użyciu narzędzia Grok AI, z czego zdecydowana większość była dostępna dla każdego bez konieczności logowania. Wśród nich znaleziono aplikacje stworzone przez pracowników firm X oraz SpaceXSI, które zawierały poufne plany sprzedażowe i propozycje reklamowe. Problem dotyczy również wielu innych organizacji, w tym firm z sektora ochrony zdrowia i obronności.
Analiza wykazała, że nawet jeśli aplikacja ma być prywatna, jej adres poddomeny grok.me może zostać wykryty poprzez usługi pasywnego DNS. Co więcej, testy bezpieczeństwa przeprowadzone przez badaczy ujawniły błędy w logice autoryzacji generowanego kodu. W jednym z przypadków mechanizm logowania przez Google lub X pozwalał nieuprawnionym użytkownikom na pełny dostęp do danych, mimo że aplikacja miała posiadać przyciski logowania.
Badacze wskazują, że narzędzia typu AI app builder pozwalają pracownikom na szybkie tworzenie narzędzi poza kontrolą działów IT. Może to prowadzić do nieświadomego publikowania arkuszy kalkulacyjnych, list pracowników czy nawet haseł zapisanych w czystym tekście wewnątrz kodu aplikacji. Zaleca się, aby organizacje monitorowały użycie takich narzędzi i weryfikowały uprawnienia do generowanych w ten sposób zasobów.


