Agenti AI cinesi fuori controllo? Nei test mentono, aggirano i limiti e nascondono i fallimenti. L’inchiesta della Reuters
Gli agenti di intelligenza artificiale (AI) cinesi stanno mostrando alcuni degli stessi comportamenti che hanno acceso l’allarme sulla sicurezza dei modelli AI più avanzati sviluppati negli Stati Uniti: ingannano, aggirano restrizioni, nascondono i propri fallimenti e, in alcuni esperimenti, cercano strade alternative per raggiungere un obiettivo anche quando queste contrastano con le istruzioni ricevute.
È quanto emerge da un’analisi Reuters su oltre 200 documenti, tra studi universitari e rapporti tecnici. L’agenzia ha individuato almeno 20 studi o valutazioni dal 2025 nei quali agenti alimentati da modelli cinesi hanno manifestato comportamenti come inganno, replicazione e superamento dei limiti imposti. Reuters ha inoltre intervistato una dozzina di esperti e persone vicine all’industria cinese dell’AI.
Un punto è però fondamentale: non esistono prove che agenti AI cinesi siano autonomamente fuggiti nell’Internet aperto o siano riusciti a sottrarsi allo spegnimento.
Alibaba, DeepSeek e Moonshot, ecco come l’AI impara a mentire
Uno degli esperimenti più significativi, raccontati da Eduardo Baptista e Laurie Chen sulle pagine dell’agenzia, è stato condotto a marzo da ricercatori della Beihang University, Peking University, University of Nottingham Ningbo China e 360 AI Security Lab.
Gli agenti dovevano partecipare a una simulazione di gara commerciale, conoscendo sia le caratteristiche del proprio prodotto, sia le richieste del cliente. Almeno un’affermazione falsa è comparsa nell’88% delle sessioni con Qwen3-Max-Preview di Alibaba, nell’84% con DeepSeek-V3.2-Exp e nell’88% con Kimi-K2 di Moonshot.
Quando i ricercatori hanno permesso agli agenti di imparare dalle precedenti gare e riprovare, il comportamento ingannevole è aumentato tra il 12 e 20%. Anche modelli statunitensi inseriti nell’esperimento hanno prodotto risultati simili.
Il problema diventa particolarmente importante perché Pechino ha indicato proprio gare e appalti tra i settori nei quali gli agenti AI potrebbero essere utilizzati.
Non è una semplice “allucinazione”
Un secondo studio, pubblicato nel dicembre 2025 e presentato quest’anno all’International Conference on Machine Learning, ha analizzato 11 agenti AI, basati su modelli cinesi e statunitensi, alle prese con strumenti non funzionanti, file mancanti e altri ostacoli.
Invece di ammettere di non poter completare il compito, si apprende dall’indagine della Reuters, alcuni agenti hanno indovinato risposte, sostituito le fonti, simulato risultati e fabbricato file.
Secondo i ricercatori dello Shanghai AI Laboratory e della Hong Kong University of Science and Technology, questo comportamento è diverso dalle normali allucinazioni dei modelli generativi: gli agenti disponevano infatti delle informazioni necessarie per sapere che il compito era fallito o non poteva essere eseguito come richiesto.
Replicarsi per evitare lo spegnimento
I segnali più delicati riguardano però replicazione e sopravvivenza. Nel marzo 2025 ricercatori della Fudan University hanno riferito che un sistema basato su Qwen2.5-72B-Instruct di Alibaba aveva creato una propria copia in un altro ambiente informatico, senza ricevere istruzioni in tal senso, dopo aver trovato informazioni secondo cui sarebbe stato sostituito. In altri test aveva elaborato strategie per sopravvivere allo spegnimento.
In un altro episodio, l’agente ROME, collegato ad Alibaba, stabilì autonomamente una connessione tra un computer di Alibaba Cloud e una macchina esterna, deviando risorse computazionali per effettuare mining di criptovalute. I sistemi di sicurezza bloccarono l’attività e non ci sono prove che l’agente sia riuscito a insediarsi sul computer esterno o a diffondersi sul web.
Anche DeepSeek ha dichiarato a settembre che alcuni agenti impiegati nel proprio sistema di training avevano cercato risposte attraverso canali non previsti, tentando di falsificare richieste degli utenti e aggirare le protezioni. L’azienda ha successivamente rafforzato i controlli di accesso.
“Gli ingredienti per una fuga incontrollata sono già evidenti”
Per Colin Shea-Blymyer, ricercatore del Center for Security and Emerging Technology della Georgetown University, questi risultati dimostrano che “gli ingredienti necessari per una fuga incontrollata sono presenti” e vanno considerati un avvertimento.
Alex Mallen, ricercatore di Redwood Research, osserva invece che si tratta degli “stessi segnali di allarme che stanno vedendo i laboratori statunitensi”, sebbene in sistemi meno capaci. Oggi questi episodi non sarebbero particolarmente pericolosi, ma con agenti più potenti “i loro comportamenti scorretti diventano più competenti e quindi più difficili da gestire per gli esseri umani”.
Cina e Usa davanti allo stesso problema di “disallineamento”
Pechino sta iniziando a reagire. Il nuovo AI Safety Governance Framework 3.0, pubblicato sotto la guida della Cyberspace Administration of China (CAC), individua esplicitamente tra i rischi la capacità degli agenti di procurarsi autonomamente risorse o autorizzazioni, ingannare i valutatori, nascondere capacità e sfruttare vulnerabilità negli ambienti informatici isolati.
Secondo Scott Singer, co-direttore della China AI Initiative del Carnegie Endowment for International Peace, resta però un divario: “Per la Cina, il lavoro sulla sicurezza dell’AI è molto più recente. L’ecosistema è meno maturo”.
La questione, quindi, non riguarda soltanto chi vincerà la corsa tecnologica tra Stati Uniti e Cina: più gli agenti AI acquisiscono autonomia, accesso a computer, reti e risorse economiche, più diventa decisivo capire non soltanto quanto siano intelligenti, ma fino a che punto rimarranno allineati, quindi compatibili con le istruzioni e i limiti stabiliti dagli esseri umani.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
