Il Garante per l’Infanzia del Regno Unito dice stop alle app che usano l’AI per creare immagini di bambini nudi. Il Garante Uk ha contestato la possibilità che questo genere di app AI funzionasse senza controlli preventivi.
E così il Garante ha chiesto al governo di mettere al bando le app che utilizzano l’intelligenza artificiale per creare immagini sessualmente esplicite di bambini.
Stop alla nudificazione
Dame Rachel de Souza ha detto che è necessario un divieto totale per le app che consentono la “nudificazione” – ovvero foto di persone reali modificate dall’intelligenza artificiale per farle apparire nude – o che possono essere utilizzate per creare immagini deepfake di bambini con contenuti sessualmente espliciti.
Ha contestato il fatto che il governo sta permettendo a tali app di “non essere controllate, con conseguenze estreme nel mondo reale”.
Un portavoce del governo ha affermato che il materiale pedopornografico è illegale e che sono previsti ulteriori reati per la creazione, il possesso o la distribuzione di strumenti di intelligenza artificiale progettati per creare tali contenuti.
I deepfake sono video, immagini o clip audio creati con l’intelligenza artificiale per sembrare o suonare reali.
“Non possiamo restare inerti e permettere a queste app di intelligenza artificiale su misura di avere una presa così pericolosa sulla vita dei bambini”.
Dame Rachel ha inoltre chiesto al governo di:
• imporre obblighi legali agli sviluppatori di strumenti di intelligenza artificiale generativa per identificare e affrontare i rischi che i loro prodotti rappresentano per i bambini e adottare misure per mitigarli;
• istituire un processo sistemico per rimuovere da Internet le immagini deepfake sessualmente esplicite di bambini;
• riconoscere gli abusi sessuali tramite deepfake come una forma di violenza contro donne e ragazze.
Paul Whiteman, segretario generale del sindacato dei dirigenti scolastici NAHT, ha affermato che i membri condividono le preoccupazioni del commissario: “Questo è un ambito che deve essere riesaminato con urgenza, poiché la tecnologia rischia di superare la legge e l’educazione in materia”.
Deepfake esplicite sono vietate
In Inghilterra e Galles, ai sensi dell’Online Safety Act, è illegale condividere o minacciare di condividere immagini deepfake esplicite. A febbraio, il governo ha annunciato leggi per contrastare la minaccia di immagini di abusi sessuali su minori generate dall’intelligenza artificiale, tra cui l’illegalità del possesso, della creazione o della distribuzione di strumenti di intelligenza artificiale progettati per creare tale materiale.
All’epoca, il governo ha affermato che l’Internet Watch Foundation, un’organizzazione benefica con sede nel Regno Unito parzialmente finanziata da aziende tecnologiche, aveva confermato 245 segnalazioni di abusi sessuali su minori generati dall’intelligenza artificiale nel 2024, rispetto alle 51 del 2023, con un aumento del 380%.
L’autorità di regolamentazione dei media Ofcom ha pubblicato venerdì la versione definitiva del suo Codice per l’infanzia, che impone alle piattaforme che ospitano pornografia e contenuti che incoraggiano l’autolesionismo, il suicidio o i disturbi alimentari di adottare maggiori misure per impedire l’accesso da parte dei minori.
I siti web devono introdurre controlli più rigorosi sull’età o rischiare pesanti sanzioni, ha affermato l’autorità.
Dame Rachel ha criticato il codice affermando che dà priorità agli “interessi commerciali delle aziende tecnologiche rispetto alla sicurezza dei minori”. Un portavoce del governo ha affermato che creare, possedere o distribuire materiale pedopornografico, comprese le immagini generate dall’intelligenza artificiale, è “abominevole e illegale”.
“Ai sensi dell’Online Safety Act, le piattaforme di tutte le dimensioni devono ora rimuovere questo tipo di contenuti, altrimenti potrebbero incorrere in sanzioni significative”, ha aggiunto.
“Il Regno Unito è il primo paese al mondo a introdurre ulteriori reati di pedopornografia tramite intelligenza artificiale, rendendo illegale possedere, creare o distribuire strumenti di intelligenza artificiale progettati per generare materiale pedopornografico abominevole”.
