ProjectDiscovery ostrzega przed ryzykiem backdoorów w modelach typu Abliterated – ujawniono PoC ataku na open-source AI
ProjectDiscovery ostrzega przed modelami AI, z których usunięto zabezpieczenia (tzw. Abliterated models), gdyż mogą one zawierać ukryte backdoory umożliwiające kradzież danych lub wykonanie kodu.
Zespół ProjectDiscovery opublikował ostrzeżenie oraz dowód koncepcji (PoC) dotyczący zagrożeń związanych z tzw. modelami Abliterated. Są to modele open-source, w których matematycznie usunięto mechanizmy bezpieczeństwa i blokady treści (guardrails). Choć zyskują popularność na platformach takich jak Hugging Face, mogą stanowić poważne zagrożenie dla łańcucha dostaw.
