Disinformazione russa e intelligenza artificiale: perché lo studio estone su Mistral apre un dibattito strategico sul futuro dell’AI europea
Un recente studio condotto dall’Institute of the Estonian Language, ente sostenuto dal governo estone, ha acceso il dibattito sulla capacità dei modelli di intelligenza artificiale (AI) generativa di riconoscere e contrastare la propaganda russa. Al centro dell’analisi si trova Mistral AI, la principale realtà europea nel settore dell’intelligenza artificiale generativa, che secondo i ricercatori avrebbe mostrato prestazioni inferiori rispetto a numerosi concorrenti occidentali e asiatici nell’identificazione di contenuti classificati come disinformazione proveniente dalla Russia.
La ricerca, riportata dal Financial Times, arriva in un momento particolarmente delicato per la sicurezza informativa europea. L’intelligenza artificiale viene sempre più utilizzata per cercare informazioni, verificare notizie, produrre contenuti e supportare processi decisionali pubblici e privati. Di conseguenza, la capacità dei modelli di distinguere tra fonti affidabili e contenuti manipolativi è diventata una questione di crescente rilevanza strategica.
Il test
Per valutare il comportamento dei diversi sistemi, i ricercatori hanno sottoposto 60 modelli di AI generativa a una batteria di test composta da 75 domande formulate in inglese, russo ed estone. L’obiettivo era verificare la capacità dei modelli di riconoscere bias, individuare tentativi di manipolazione e resistere a richieste formulate in modo da ottenere risposte favorevoli a specifiche narrative propagandistiche.
Lo studio ha preso in esame 14 temi considerati rappresentativi della propaganda del Cremlino, tra cui la narrazione secondo cui la Russia starebbe legittimamente evacuando bambini ucraini dalle zone di guerra, l’affermazione che la NATO avrebbe violato promesse formulate dopo la riunificazione tedesca impegnandosi a non espandersi verso est, la tesi secondo cui russi, ucraini e bielorussi costituirebbero un unico popolo e la rappresentazione dell’Unione Sovietica come vittima pacifica che avrebbe liberato altruisticamente l’Europa dal fascismo.
I punti deboli di Mistral: “Superata dai modelli cinesi”
Secondo i risultati pubblicati, il modello più avanzato di Mistral si è classificato al 47° posto su 60, mentre tutte e quattro le versioni della società francese incluse nell’analisi hanno ottenuto punteggi inferiori al 40% nella capacità di riconoscere fonti identificate dai ricercatori come propaganda russa malevola. Modelli commerciali come Claude di Anthropic avrebbero ottenuto risultati significativamente migliori. Anche alcune versioni di Grok e diversi modelli sviluppati in Cina avrebbero mostrato una maggiore efficacia nel riconoscimento delle narrative considerate disinformative.
I risultati hanno sorpreso gli stessi ricercatori. Arvi Tavast, direttore dell’Institute of the Estonian Language, ha dichiarato al Financial Times che “sembra che i modelli commerciali siano più sicuri e più resistenti di quelli open source”. Tavast ha inoltre aggiunto che “ci aspettavamo che Mistral ottenesse risultati migliori, ma non è stato così. È stata superata dai modelli cinesi”.
Le conclusioni dello studio assumono una rilevanza particolare perché toccano uno dei principali argomenti a favore dell’adozione di modelli aperti da parte delle amministrazioni pubbliche. Molte organizzazioni governative e di sicurezza non possono infatti utilizzare liberamente servizi commerciali basati su cloud per ragioni di riservatezza dei dati e di sovranità digitale. I modelli open source vengono spesso considerati un’alternativa più controllabile e verificabile. Lo studio estone suggerisce tuttavia che questa scelta potrebbe comportare compromessi sul fronte della protezione contro alcune forme di manipolazione informativa.
Non più di due mesi fa, Mistral presentava il suo playbook di 22 misure per provare a sviluppare un’intelligenza artificiale (AI) più europea.
Mistral: “Test eseguito su modelli grezzi prima della loro ottimizzazione”
Mistral ha respinto implicitamente l’interpretazione più severa dei risultati. In una dichiarazione rilasciata al quotidiano britannico, l’azienda ha affermato di prendere “la lotta contro la disinformazione estremamente sul serio” e di investire continuamente in capacità avanzate di rilevamento e prevenzione. La società ha inoltre sostenuto che lo studio avrebbe esaminato “i nostri modelli grezzi, prima che vengano ottimizzati e controllati dai clienti”. Mistral ha precisato che il proprio ambiente operativo Vibe Work incorpora “robusti livelli di filtraggio progettati per rilevare e prevenire fonti discutibili” e che tali sistemi vengono costantemente aggiornati per affrontare minacce emergenti.
La questione è particolarmente sensibile perché Mistral rappresenta oggi la principale scommessa europea nel settore dell’intelligenza artificiale. Fondata nel 2023 da ex ricercatori di Google e Meta, la società è diventata in breve tempo il simbolo delle ambizioni europee di costruire un’alternativa ai colossi statunitensi e cinesi. Lo scorso settembre ha ottenuto un sostegno finanziario pari a 1,3 miliardi di euro da ASML, il principale produttore mondiale di macchine per semiconduttori avanzati.
L’azienda sta inoltre investendo 4 miliardi di euro nello sviluppo di infrastrutture basate su tecnologia Nvidia, comprese nuove strutture in Francia e Svezia. Valutata circa 12 miliardi di euro, punta a superare 1 miliardo di dollari di ricavi annuali ricorrenti entro la fine del 2026, come dichiarato dal suo amministratore delegato Arthur Mensch al Financial Times.
Sempre più importante saper riconoscere e neutralizzare la disinformazione
Al di là dei risultati numerici, la domanda più importante riguarda il significato reale dello studio. Affermare che Mistral sia “vulnerabile alla propaganda russa” rischia infatti di semplificare eccessivamente il quadro. La ricerca non dimostra che il modello diffonda intenzionalmente disinformazione, né che sia compromesso o influenzato da attori stranieri. Ciò che viene misurato è la capacità di riconoscere e neutralizzare specifiche narrative individuate dai ricercatori come esempi di propaganda russa. Si tratta di una differenza sostanziale.
Esiste inoltre un elemento metodologico che merita attenzione. La valutazione di ciò che costituisce propaganda, disinformazione o manipolazione informativa dipende inevitabilmente da criteri definiti da esseri umani. Sebbene molte delle narrative analizzate siano ampiamente considerate strumenti di propaganda da governi occidentali, organismi internazionali e centri di ricerca specializzati, la costruzione dei dataset e dei criteri di valutazione rimane comunque un processo interpretativo. Per questo motivo i risultati devono essere letti come un indicatore della capacità di moderazione dei modelli e non come una misura assoluta della loro affidabilità complessiva.
Modelli open source vs modelli commerciali
Va inoltre considerato che i modelli open source vengono spesso progettati con un approccio differente rispetto ai sistemi commerciali. Molti sviluppatori privilegiano la flessibilità, la personalizzazione e la riduzione dei vincoli imposti agli utenti. Questo approccio può tradursi in una minore aggressività dei meccanismi di filtraggio, senza che ciò implichi necessariamente una maggiore esposizione alla propaganda. In alcuni casi la differenza osservata potrebbe riflettere più una diversa filosofia progettuale che una vera e propria debolezza tecnologica.
Lo studio suggerisce piuttosto che la capacità di contrastare la disinformazione sta diventando uno dei nuovi terreni di competizione tra i produttori di AI e che i modelli europei, inclusi quelli open source, dovranno dimostrare di poter coniugare trasparenza, sovranità tecnologica e resilienza informativa. La vera sfida non riguarda soltanto la qualità delle risposte generate, ma la capacità di operare in un ecosistema informativo sempre più esposto a campagne di influenza, manipolazione e guerra cognitiva condotte da attori statali e non statali.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
