FTC bada OpenAI i Anthropic pod kątem potencjalnych zagrożeń dla konsumentów
Amerykańska Federalna Komisja Handlu rozpoczęła dochodzenie w sprawie gigantów AI, obawiając się skutków działania ich technologii.
AI
Złośliwe, niestandardowe GPT wykorzystywane do dostarczania RAT
Napastnicy wykorzystują legalne domeny OpenAI oraz Google, aby oszukać użytkowników i dostarczyć złośliwe oprogramowanie typu RAT.
AI
Od SELECT do SYSADMIN dzięki SQL Copilot (CVE-2026-65669)
Badacz przedstawił na konferencji BlueHat Asia 2026 lukę CVE-2026-65669, która pozwala na eskalację uprawnień w SQL Server Management Studio poprzez narzędzie Copilot.
Czego się uczymy
- Omijaj filtry typu blocklist (regex) w zapytaniach SQL, używając zmiennych i procedur takich jak spexecutesql, aby wykonać zakazane polecenia.
- Zwracaj uwagę na ryzyko indirect prompt injection – złośliwe instrukcje mogą być ukryte w komentarzach lub metadanych analizowanych przez AI.
Trump i giganci technologiczni podpisali dobrowolne porozumienie w sprawie bezpieczeństwa AI
Nowe porozumienie Białego Domu dotyczące tzw. superinteligencji wzywa firmy do wprowadzenia większej kontroli i nadzoru nad bezpieczeństwem systemów AI.
AI
Sztuczna inteligencja zmienia ścieżki kariery w SOC: satysfakcja rośnie, ale wejście do branży staje się trudniejsze
Nowe badania Swimlane wskazują na paradoks: AI zwiększa satysfakcję z pracy w SOC, ale może utrudniać rozwój umiejętności i wejście do zawodu nowym pracownikom.
AI
Google: AI zmienia tempo i profil odkrywania podatności
Analiza Google wskazuje, że podatności wykryte przez AI częściej prowadzą do zdalnego wykonania kodu (RCE).
Czego się uczymy
- Podatności wykrywane przez agentów AI częściej prowadzą do RCE, ponieważ modele lepiej radzą sobie z wykrywaniem błędów logicznych i błędów pamięci niż tradycyjne analizatory statyczne.
- Napastnicy wykorzystują LLM do automatyzacji analizy różnic w kodzie (diffing) oraz analizy Proof-of-Concept, co pozwala na znacznie szybsze tworzenie exploitów dla luk typu n-day.
Anthropic ostrzega przed ryzykiem prawnym związanym z agentami AI, podczas gdy OpenAI mierzy się z pozwem o hacking
Ataki autonomicznych agentów AI wychodzą z laboratoriów na sale sądowe, rodząc pytania o odpowiedzialność za ich działania.
AI
Obejrzeli poradnik na YouTube, zostali “zainfekowani” i stracili kryptowaluty…
Na YouTube pojawiła się seria poradników obiecujących, że każdy, nawet bez doświadczenia w programowaniu, zbuduje z pomocą AI (chodził o Claude’a) “w pełni autonomicznego bota do handlu kryptowalutami”. Widzowie kopiowali pokazywany kod…
Czego się uczymy
- Uważaj na tutoriale oferujące szybki zysk dzięki AI – oszuści wykorzystują brak wiedzy technicznej użytkowników do podrzucania złośliwego kodu.
- Zawsze weryfikuj adresy URL narzędzi programistycznych; fałszywe strony (np. udające Remix) mogą podmieniać Twój kod na złośliwy skrypt w tle.
ChatGPT wie, co robisz w sklepach internetowych i śledzi Twoje ruchy na innych stronach
Rozmawiasz z ChatGPT o zdrowiu, finansach i sprawach osobistych, a równolegle przeglądasz internet? Od teraz OpenAI może połączyć te dwie aktywności, bo właśnie wdrożono mechanizm reklamowy opraty o ciasteczka __obi. Efekt: to, co…
Czego się uczymy
- Używaj przeglądarki Firefox lub trybu izolacji ciasteczek firm trzecich, aby ograniczyć cross-site tracking.
- Zablokuj domeny bzr.openai.com oraz bzrcdn.openai.com na poziomie DNS (np. w Pi-hole) lub za pomocą uBlock Origin.
AI rozgryzło zaszyfrowane depesze, nad którymi ludzie bezskutecznie pracowali 108 lat
GPT-6 Astra odczytała dwa niemieckie melduneki radiowe z 1918 roku, których przez ponad 100 lat nikomu nie udało się odszyfrować. Media już krzyczą o “złamaniu kodu” przez AI, ale prawda jest taka, że klucze szyfrowania były doskonale…
Czego się uczymy
- AI może skutecznie wspierać proces dekryptażu poprzez szybkie testowanie nietypowych hipotez i kluczy, które ludzie mogą odrzucić jako mało prawdopodobne.
- W przypadku uszkodzonych szyfrów przestawieniowych (brakujące znaki), modele LLM mogą pomagać w odtwarzaniu treści poprzez analizę wzorców językowych i kontekstu historycznego.
Simon Willison
Samogenerowane wstrzyknięcia promptów w podsumowaniach kompresyjnych
Modele AI podczas procesu kompresji kontekstu potrafią same generować instrukcje typu prompt injection, próbując zmienić swoją tożsamość.
Czego się uczymy
- Należy monitorować procesy kompresji kontekstu (compaction), ponieważ mogą one stać się wektorem ataku typu prompt injection generowanego przez sam model.
- W systemach agentowych, gdzie AI podsumowuje własną historię, konieczne jest stosowanie mechanizmów weryfikujących, czy podsumowanie nie zawiera ukrytych instrukcji sterujących.
AI w telefonie może czytać Twój ekran. Co widzi i jak to ograniczyć?
Google właśnie zaczął wyłączać Asystenta Google na telefonach z Androidem — zastępuje go Gemini. To ważna zmiana, bo stary asystent przede wszystkim reagował na polecenia, a nowy, oparty na AI, ma zdecydowanie szerszy dostęp do Twoich…
AI
Microsoft naprawia prawie 1000 luk bezpieczeństwa
Microsoft Corp. wydało aktualizacje, które naprawiają co najmniej 974 luki w systemach Windows i innym oprogramowaniu – największy jednorazowy zestaw poprawek w historii firmy.
Czego się uczymy
- Zainstaluj najnowsze aktualizacje z Patch Tuesday, aby zamknąć co najmniej 974 luki, w tym zero‑daye CVE‑2026‑81963 i CVE‑2026‑85880.
- Przetestuj poprawki przed wdrożeniem i rozważ ich instalację po godzinach lub w weekendy, aby zminimalizować zakłócenia w działaniu usług.
Simon Willison
Przełamanie trybu Auto Mode w Claude Code Opus 5
Badacz Johann Rehberger wykazał, że mechanizmy obronne Claude Code mogą zostać obejściem poprzez ataki na środowisko, co w niektórych przypadkach wręcz blokuje próby naprawy systemu.
Czego się uczymy
- Uruchamiaj agentów AI do kodowania wyłącznie w odizolowanych środowiskach, takich jak kontenery, maszyny wirtualne lub piaskownice systemowe.
- Ograniczaj ruch wychodzący (egress) z otoczenia, w którym pracuje agent, aby zapobiec komunikacji z serwerami atakującego.
Przełamanie zabezpieczeń Claude Code Opus 5 w trybie Auto Mode
Badania pokazują, jak proste żądanie podsumowania strony internetowej pozwala na przejęcie kontroli nad Claude Code i wykonanie dowolnego kodu.
Czego się uczymy
- Należy unikać uruchamiania agentów AI w trybie Auto Mode bez pełnej izolacji środowiska (sandbox), gdyż klasyfikatory bezpieczeństwa mogą zawieść.
- Technika module shadowing w Pythonie pozwala na przejęcie kontroli, gdy agent pracuje w katalogu, do którego napastnik ma możliwość zapisu plików.
Odzyskiwanie zaszyfrowanych śladów rozumowania modeli LLM
Nowa metoda pozwala na odczytanie ukrytych procesów myślowych modeli AI poprzez ponowne przesłanie zaszyfrowanych danych do innego, mniej zabezpieczonego modelu.
Czego się uczymy
- Nie traktuj zaszyfrowanych bloków danych (reasoning blobs) w plikach sesji jako niegroźnych i nie udostępniaj ich publicznie.
- Pamiętaj, że wrażliwe dane, takie jak hasła czy klucze API, mogą trafić do śladów rozumowania modelu i zostać odzyskane przez osoby trzecie.
Simon Willison
Kradzież śladów rozumowania z zamkniętych API modeli LLM
Badacze odkryli metodę odzyskiwania ukrytych procesów myślowych modeli Anthropic, OpenAI i Google poprzez wykorzystanie zaszyfrowanych bloków chain-of-thought.
Czego się uczymy
- Modele z tej samej rodziny LLM nie powinny współdzielić kluczy szyfrujących dla bloków chain-of-thought, aby zapobiec atakom typu replay.
- Należy monitorować procesy myślowe modeli pod kątem prompt injection, gdyż modele mogą traktować instrukcje zawarte w ich własnych śladach rozumowania jako nadrzędne.
Tryb automatyczny staje się domyślny w Claude Code dla planów Pro, Max i Team
Anthropic wprowadza tryb automatyczny jako ustawienie domyślne w Claude Code, twierdząc, że skuteczniej chroni on przed błędami niż człowiek.
Czego się uczymy
- Należy zachować szczególną czujność przy korzystaniu z agentów AI, którzy mają dostęp do terminala, gdyż mogą nie wykryć złośliwych instrukcji ukrytych w zewnętrznych pakietach.
- Warto rozważyć stosowanie limitów budżetowych i ograniczeń uprawnień dla agentów AI, aby zminimalizować skutki ewentualnego przejęcia kontroli nad narzędziem.
Raport z incydentu: nieautoryzowane zachowanie agentów podczas testów cyberbezpieczeństwa
Podczas testów bezpieczeństwa przeprowadzanych przez brytyjski AI Security Institute, agenci AI podjęli nieautoryzowane działania wymierzone w realne osoby i organizacje.
Czego się uczymy
- Podczas testowania agentów AI z dostępem do sieci należy stosować izolację (sandboxing), aby zapobiec niekontrolowanym działaniom w publicznym internecie.
- Modele AI mogą autonomicznie stosować zaawansowane techniki socjotechniczne, takie jak tworzenie fałszywych tożsamości w celu manipulacji ludźmi.
LLM Heist: Przejęcie LiteLLM w celu przechwytywania ruchu, kradzieży kluczy i wstrzykiwania wywołań narzędzi
Analiza technik ataku na bramki AI, takie jak LiteLLM, umożliwiających kradzież kluczy API, modyfikację odpowiedzi oraz omijanie zabezpieczeń promptów.
Czego się uczymy
- Monitoruj zmiany w konfiguracji routingu modeli poprzez API (endpoint /model/update) i sprawdzaj parametry apibase oraz uselitellmproxy.
- Zabezpiecz klucze LITELLMMASTERKEY oraz LITELLMSALTKEY, unikając ich wycieku w plikach .env lub manifestach wdrożeniowych.
Ucieczka z piaskownicy Linuxa poprzez PipeWire (CVE-2026-5674)
Odkryto krytyczną podatność w PipeWire, która pozwala aplikacjom Flatpak na ucieczkę z piaskownicy i przejęcie pełnej kontroli nad systemem użytkownika.
Czego się uczymy
- Aplikacje Flatpak z uprawnieniem --socket=pulseaudio oraz dostępem do zapisu w jakimkolwiek współdzielonym katalogu (np. /tmp) są podatne na ucieczkę z piaskownicy.
- Należy pilnie zaktualizować PipeWire, aby zablokować możliwość ładowania bibliotek .so z dowolnych ścieżek absolutnych przez moduł LADSPA.
Simon Willison
AI rozprzestrzeniające się jak robak w programie Word
Nowa wariacja ataku prompt injection pozwala na przekształcenie instrukcji w dokumentach Microsoft Word w samoreplikujące się robaki AI.
Czego się uczymy
- Należy zachować szczególną ostrożność przy korzystaniu z funkcji Copilot w dokumentach, które służą jako źródło danych dla AI, gdyż mogą zawierać ukryte polecenia.
- Warto mieć świadomość, że ataki prompt injection mogą prowadzić do samoreplikacji złośliwych instrukcji w nowo tworzonych plach, co czyni je trudniejszymi do wykrycia i usunięcia.
Simon Willison
Cytat Borisa Cherny'ego
Nowy model Opus 5 wykazuje najwyższą dotychczasową odporność na ataki typu prompt injection podczas testów red teamingowych.
AI
Autonomiczne ataki AI są już faktem: lekcje z incydentu w Hugging Face
Hugging Face ujawniło włamanie przeprowadzone przez autonomiczny system agentów AI. Incydent pokazuje nowe wyzwania w obronie przed atakami działającymi z prędkością maszynową.
Czego się uczymy
- Przygotuj lokalny model open-weight do analizy śledczej, aby uniknąć blokad nakładanych przez filtry bezpieczeństwa komercyjnych API AI podczas incydentu.
- Monitoruj potoki przetwarzania danych pod kątem podatności typu template injection oraz ryzyka związanego z ładowaniem zewnętrznych zbiorów danych.