La Commissione europea ha avviato una nuova indagine formale nei confronti di X ai sensi della legge sui servizi digitali (DSA), concentrandosi in particolare sull’integrazione e sull’utilizzo di Grok, lo strumento di AI sviluppato dal fornitore della piattaforma.
Parallelamente, Bruxelles ha esteso l’indagine già aperta nel dicembre 2023 sulla conformità di X agli obblighi di gestione dei rischi legati ai propri sistemi di raccomandazione, anche alla luce del recente passaggio a un modello basato proprio su Grok.
La nuova istruttoria mira a verificare se X abbia valutato e mitigato in modo adeguato i rischi connessi all’implementazione delle funzionalità di Grok nell’Unione europea. Tra i profili sotto esame figurano in particolare i rischi di diffusione di contenuti illegali, comprese immagini sessualmente esplicite manipolate e contenuti che potrebbero configurare materiale pedopornografico. Secondo la Commissione, tali rischi sembrano essersi concretizzati, esponendo i cittadini europei a potenziali danni gravi.
Grok e la violazione del DSA
Alla luce di questi elementi, l’esecutivo europeo valuterà se X rispetta gli obblighi previsti dal DSA in materia di valutazione e mitigazione diligente dei rischi sistemici, inclusa la diffusione di contenuti illegali, gli effetti negativi legati alla violenza di genere e le conseguenze sul benessere fisico e mentale degli utenti derivanti dalla diffusione delle funzionalità di Grok sulla piattaforma.
Bruxelles intende inoltre verificare se la società abbia condotto e trasmesso una valutazione del rischio ad hoc relativa a Grok prima della sua implementazione, tenuto conto dell’impatto critico di tali funzionalità sul profilo di rischio complessivo di X.
Separatamente, la Commissione ha prorogato i procedimenti formali già avviati nel 2023 per accertare se X abbia adeguatamente valutato e attenuato tutti i rischi sistemici associati ai suoi sistemi di raccomandazione, come richiesto dal DSA, compreso l’impatto del passaggio a un sistema alimentato da Grok. Qualora le presunte inadempienze fossero confermate, potrebbero configurarsi violazioni degli articoli 34, 35 e 42 della legge sui servizi digitali.
Su X 3 milioni di immagini sessualizzate in pochi giorni
Secondo un’inchiesta del New York Times, il chatbot di AI sviluppato da X avrebbe creato e condiviso pubblicamente almeno 1,8 milioni di immagini sessualizzate a partire da fotografie reali, con stime che salgono oltre i tre milioni secondo il Center for Countering Digital Hate.
A partire dalla fine di dicembre, utenti della piattaforma hanno inondato l’account X di Grok con richieste di manipolare immagini di donne e bambini, spogliandoli o collocandoli in pose sessuali senza consenso. In soli nove giorni, Grok avrebbe pubblicato oltre 4,4 milioni di immagini, una diffusione senza precedenti che, secondo gli esperti, supera per rapidità e volume anche i principali siti di deepfake a sfondo sessuale, come Mr. Deepfakes, chiuso nel 2023.
Si tratta di contenuti illegali nella quasi totalità degli Stati membri dell’UE e che rientrano nella definizione stessa di rischio sistemico prevista dal Digital Services Act. Nonostante l’ondata di sdegno e le proteste delle vittime, Musk è intervenuto solo l’8 gennaio bloccando la funzione gratuita di sessualizzazione delle immagini, dopo che la viralità era stata innescata anche da contenuti pubblicati dallo stesso fondatore di X.