L’Agcm chiude le istruttorie condotte su DeepSeek, Mistral e NOVA: nessuna infrazione, presi impegni per ridurre le allucinazioni AI
“L’Autorità ha chiuso tre istruttorie accogliendo impegni che puntano a rafforzare la trasparenza informativa dei sistemi offerti, intervenendo sui canali di fruizione dei servizi (siti internet e app) e nelle varie fasi del processo decisionale che precede l’acquisto o la registrazione”.
Questo il messaggio di apertura del comunicato stampa con cui l’Autorità italiana garante della concorrenza e del mercato (Agcm) ha informato della chiusura delle istruttorie condotte nei confronti delle società Hangzhou DeepSeek Artificial Intelligence Co. Ltd e Beijing DeepSeek Artificial Intelligence Co. Ltd, Mistral AI SAS e Scaleup Yazilim Hizmetleri Anonim Şirketi, che offre un servizio “chatbot cross-platform” denominato NOVA AI.
Un lavoro durato mesi, che ha visto l’Antitrust italiana impegnata ad indagare e vigilare sul modo in cui funzionano i sistemi di intelligenza artificiale (AI) generativa e soprattutto sulle modalità con cui le società che forniscono tali modelli informano gli utenti di rete sui possibili rischi, soprattutto in relazione alle cosiddette allucinazioni dell’AI.
“Le tre istruttorie si sono concluse con accoglimento degli impegni, senza accertamento di infrazione ai sensi dell’art. 27, comma 7, del Codice del consumo”, si legge sul sito dell’Autorità.
Più informazioni al pubblico e maggiore trasparenza sul funzionamento delle AI
Le tre società hanno deciso di assumersi degli obblighi a riguardo, in particolare su tre punti critici:
rafforzando la trasparenza informativa sul rischio di “allucinazioni” dei sistemi offerti;
intervenendo sui canali di fruizione dei servizi (siti internet e app) e nelle varie fasi del processo decisionale che precede l’acquisto o la registrazione;
introducendo disclaimer permanenti nelle interfacce di utilizzo sotto le chat che avvertono, in lingua italiana, della presenza delle allucinazioni, anche con hyperlink dedicati.
A livello di policy, DeepSeek, Mistral e NOVA hanno anche scelto di intervenire sull’“informativa precontrattuale”, ampliandola ulteriormente con esplicite avvertenze sui limiti di affidabilità dei contenuti generati e sulla necessità di verificarli.
DeepSeek, nello specifico, ha comunicato all’Agcm la volontà di investire a livello tecnologico per “mitigare” le allucinazioni AI (che al momento, è specificato dalla stessa società, non è possibile ridurre a zero).
NOVA AI, invece, si è impegnata ad informare i propri utenti che “si tratta di un servizio che offre solo accesso, mediante un’unica interfaccia, ad alcune chatbot”, delle quali sono stati dati maggiori dettagli, ma senza fornire un servizio di aggregazione e di elaborazione delle risposte.
Cosa sono le allucinazioni e che rischi rappresentano per gli utenti
Le “allucinazioni” dell’intelligenza artificiale rappresentano una delle criticità più rilevanti nell’uso diffuso dei modelli linguistici: si tratta di output che, pur apparendo coerenti e credibili, risultano in realtà falsi, imprecisi o completamente inventati. Questo fenomeno non è privo di conseguenze, soprattutto per gli utenti della rete. La rapidità con cui tali contenuti possono alimentare la disinformazione è elevata, contribuendo alla diffusione di fake news o riferimenti inesistenti che minano la fiducia pubblica.
In ambiti sensibili come finanza, medicina e diritto, il rischio si amplifica ulteriormente, poiché indicazioni errate possono tradursi in decisioni dannose, con perdite economiche o implicazioni legali e sanitarie. A ciò si aggiungono i problemi di sicurezza, dato che le allucinazioni possono essere sfruttate in attacchi manipolativi, favorendo phishing, frodi o la generazione di contenuti offensivi. Infine, la tendenza dei sistemi a rafforzare bias preesistenti contribuisce alla creazione di bolle informative, accentuando la polarizzazione del dibattito online e distorcendo la percezione della realtà.
I numeri delle allucinazioni e i costi stimati
Le allucinazioni dell’AI non sono un fenomeno marginale, ma misurabile e variabile in modo significativo a seconda del modello e del contesto d’uso: studi recenti indicano tassi che oscillano clamorosamente dal 3% fino al 79%, con alcune analisi che rilevano percentuali tra il 51% e il 79% per modelli avanzati e fino al 76% di risposte con “problemi significativi” in altri sistemi.
L’incidenza varia inoltre per dominio: secondo l’approfondito rapporto AllAboutAI 2025, si va dallo 0,8–9,2% nella conoscenza generale al 6,4–18,7% in ambito legale, dal 4,3–15,6% in medicina al 2,1–13,8% nella finanza, fino al 3,7–16,9% nei contenuti scientifici.
Nonostante i progressi, con un calo degli errori nei top model dal 21,8% nel 2021 allo 0,7% nel 2025 (−96%), anche grazie a tecniche come il retrieval-augmented generation (RAG), che riduce le allucinazioni fino al 71%, l’impatto sugli utenti resta rilevante: il 34% degli utenti cambia strumento AI a causa di questi problemi, mentre il 64% delle strutture ospedaliere ne rallenta l’adozione.
Le conseguenze sono anche economiche, con costi stimati in circa 14.200 dollari annui per dipendente legati alla correzione degli errori e oltre 12.842 articoli generati da AI rimossi solo nel primo trimestre del 2025 perché contenenti informazioni false.
Testo del provvedimento DeepSeek
Testo del provvedimento Mistral AI
Testo degli impegni Mistral AI
Testo del provvedimento NOVA AI
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
