XMASKNEWS
Aktualizacja:

Newsy ze świata cyberbezpieczeństwa

Hacking, wycieki, luki i AI – po polsku. Automatycznie z najlepszych źródeł, co 30 minut.

Embrace The RedEN→PL

Autonomiczne ataki AI są już faktem: lekcje z incydentu w Hugging Face

Hugging Face ujawniło włamanie przeprowadzone przez autonomiczny system agentów AI. Incydent pokazuje nowe wyzwania w obronie przed atakami działającymi z prędkością maszynową.

Czego się uczymy
  • Przygotuj lokalny model open-weight do analizy śledczej, aby uniknąć blokad nakładanych przez filtry bezpieczeństwa komercyjnych API AI podczas incydentu.
  • Monitoruj potoki przetwarzania danych pod kątem podatności typu template injection oraz ryzyka związanego z ładowaniem zewnętrznych zbiorów danych.
AI
Embrace The RedEN→PL

Od pośredniego prompt injection do eksfiltracji DNS w terminalu macOS

Apple naprawiło lukę w aplikacji Terminal na macOS, która pozwalała na wyciek danych przez zapytania DNS wyzwalane kodami ANSI.

Czego się uczymy
  • Deweloperzy narzędzi CLI powinni domyślnie kodować znaki sterujące (np. za pomocą notacji caret), aby zapobiec niekontrolowanemu renderowaniu kodów ANSI.
  • Należy traktować wyjście z modeli LLM jako dane niepewne, które mogą zawierać złośliwe sekwencje sterujące terminalem.
AI