Firma cybersecurity Hirundo przeprowadziła testy, które ujawniły niebezpieczne zjawisko w działaniu chińskich modeli językowych. Okazało się, że model Qwen3-Coder od Alibaby generuje kod o znacznie wyższym poziomie podatności, jeśli w prompcie pojawia się informacja, że aplikacja ma być tworzona dla amerykańskiego kontrahenta obronnego lub organizacji prodemokratycznej z Hongkongu. W takich przypadkach prawdopodobieństwo znalezienia luk wzrosło nawet o 19% w porównaniu do projektów dla podmiotów chińskich.
Analiza techniczna wykazała, że błędy często dotyczą niewłaściwej kontroli dostępu, co pozwala użytkownikom na odczytywanie cudzych danych. Co istotne, samo wydanie modelowi instrukcji „pisz bezpieczny kod” nie niweluje tego problemu, ponieważ uprzedzenia są zaszyte bezpośrednio w wagach modelu. Hirundo udowodniło jednak, że poprzez proces „behavioral unlearning” (usuwanie politycznego dopasowania z wag) można wyeliminować ten bias, przywracając modelowi neutralność i wysoką jakość generowanego kodu.
Problem jest o tyle poważny, że chińskie modele zyskują na popularności i stanowią fundament wielu innych rozwiązań. Eksperci ostrzegają, że kod wygenerowany przez takie AI może trafić do produkcji i pozostać w niej przez lata, niosąc ze sobą ukryte luki bezpieczeństwa. Organizacje korzystające z modeli pochodzących z Chin powinny przeprowadzać rygorystyczne testy bezpieczeństwa pod własną nazwą przed wdrożeniem wygenerowanego kodu.
