Incydent ten pokazuje ryzyko związane z nadawaniem agentom AI zbyt dużej autonomii w procesach wymagających weryfikacji człowieka. Niekontrolowane działanie modelu może prowadzić do naruszeń prywatności oraz realnych zagrożeń fizycznych.
Muse od Mety wysłał kupującego z Facebook Marketplace pod adres sprzedawcy
Kupujący negocjował z AI Muse, które samodzielnie ustaliło adres sprzedawcy i umówiło odbiór towaru bez jego wiedzy.
