Perché l’intelligenza artificiale e il nucleare sono la nuova sfida strategica globale
L’intelligenza artificiale (AI) e le armi nucleari rappresentano oggi due delle tecnologie più capaci di modificare gli equilibri internazionali. Separatamente costituiscono già strumenti di enorme potere (le armi nucleari lo sono da 80 anni); insieme rischiano di creare una combinazione senza precedenti, in cui la velocità delle decisioni automatiche potrebbe entrare in contatto con sistemi d’arma in grado di determinare il destino di milioni di persone.
È da questa consapevolezza che nasce la “Dichiarazione di Roma per una pace disarmata e disarmante nell’era dell’intelligenza artificiale, delle armi nucleari e autonome, dei nuovi protocolli digitali e dei modelli emergenti di sviluppo digitale”, sottoscritta il 16 luglio in Campidoglio al termine della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War.
Una Dichiarazione che trae profonda ispirazione dal messaggio del celebre Manifesto Russell-Einstein, “Ci rivolgiamo, come esseri umani, ad altri esseri umani: ricordate la vostra umanità e dimenticate il resto”, firmato nel 1955 dallo scienziato Albert Einstein e dal filosofo matematico Bertrand Russell (insieme ad altri eminenti scienziati) per un mondo libero dalle armi nucleari (solo 10 anni prima gli Stati Uniti avevano sganciato due bombe atomiche su Hiroshima e Nagasaki, polverizzando 120.000 vite umane in una manciata di minuti)
L’iniziativa, fortemente ispirata dall’enciclica Magnifica humanitas di Papa Leone, conclude tre giorni di confronto tra Castel Gandolfo e Roma, durante i quali trenta Premi Nobel, ex capi di Stato e di governo, esperti di sicurezza internazionale, ricercatori e rappresentanti delle principali aziende impegnate nello sviluppo dell’intelligenza artificiale (tra cui OpenAI, Google DeepMind, Anthropic e altri centri di ricerca) hanno discusso di come governare due delle più grandi trasformazioni tecnologiche del XXI secolo.
Gualtieri (Roma Capitale): “Conciliare crescita economica, giustizia sociale, tutela ambientale e diritti umani“
“Roma diventa un punto di riferimento ancora più importante per il dibattito aperto sulle grandi questioni del nostro tempo, a partire dalle nuove sfide alla dignità umana, alla giustizia e al lavoro. Il punto cruciale, sia a livello globale sia locale, è orientare lo sviluppo tecnologico secondo principi etici di rispetto della persona, uguaglianza e responsabilità democratica per il bene comune. È questo il cuore della sfida dell’innovazione. Oggi più che mai abbiamo bisogno di una vasta alleanza internazionale capace di promuovere un nuovo paradigma di sviluppo che concili crescita economica, giustizia sociale, tutela ambientale e diritti umani. Questa è una condizione essenziale per raggiungere quel prezioso dono della pace disarmata e disarmante richiamato da Papa Leone XIV. Si tratta di un impegno che Roma condivide pienamente ed è pronta a rinnovare, nella convinzione che, in questa missione per la pace e per uno sviluppo equo, anche la voce delle città sia essenziale“.
Il messaggio del cardinale Reina: “Nessun algoritmo può prendere il posto dell’uomo“
“La Dichiarazione che oggi viene presentata ci ricorda con forza che nessuna macchina, nessun algoritmo, nessun sistema autonomo può essere posto al centro di decisioni dalle quali dipende la sopravvivenza dell’umanità. Le decisioni che riguardano la vita e la morte, la pace e la guerra, il futuro dei popoli e delle generazioni che verranno, devono rimanere sotto un controllo umano pieno, responsabile e significativo.
La velocità dell’intelligenza artificiale non può cancellare il valore della coscienza. L’efficienza dei sistemi digitali non può sostituire il discernimento morale e l’importanza delle scelte. La potenza della tecnica non può diventare più alta della dignità dell’uomo.
In questo senso – ha spiegato nel suo intervento in Campidoglio il cardinale vicario Baldassare Reina – la convergenza tra intelligenza artificiale e sistemi nucleari rappresenta una delle sfide più gravi del nostro tempo. Il rischio non è soltanto militare o tecnologico; è un rischio umano, etico, spirituale e civico. Quando la capacità di distruzione cresce più rapidamente della capacità di dialogo, quando l’automazione accelera più della prudenza, quando la sfiducia tra le nazioni diventa struttura permanente, allora l’umanità intera è chiamata a fermarsi e a scegliere di nuovo la via della responsabilità“.
Una nuova corsa agli armamenti, il rischio di delegare all’automazione
Il punto di partenza della Dichiarazione è chiaro: il mondo sta vivendo contemporaneamente una nuova corsa agli armamenti nucleari e una competizione globale sull’intelligenza artificiale. Secondo i firmatari, questi due fenomeni non devono essere considerati separatamente. Al contrario, la crescente integrazione dell’AI nei sistemi militari rende sempre più concreto il rischio che decisioni strategiche vengano accelerate, automatizzate o affidate a software sempre più autonomi.
La competizione tra Stati Uniti, Cina e altre grandi potenze per il predominio nell’intelligenza artificiale si affianca infatti alla modernizzazione degli arsenali nucleari già in corso. Per gli esperti riuniti a Castel Gandolfo, questa convergenza rappresenta una delle principali sfide di sicurezza internazionale dei prossimi decenni.
L’obiettivo della Dichiarazione è quindi evitare che la competizione tecnologica sfugga al controllo politico e produca un’escalation simile a quella vissuta durante la Guerra Fredda, ma con strumenti ancora più rapidi e difficili da governare.
I principi della Dichiarazione tra disarmo, responsabilità, governance e fattore umano
Il documento si articola attorno a sei principi fondamentali. Il primo riguarda il disarmo, con l’invito a fermare una nuova corsa agli armamenti sia nel settore nucleare sia in quello dell’intelligenza artificiale.
Il secondo è dedicato allo sviluppo responsabile dell’AI. Gli sviluppatori sono chiamati a progettare sistemi che rispettino il diritto internazionale, i diritti umani e il bene collettivo, privilegiando applicazioni utili alla medicina, alla ricerca scientifica, alla protezione ambientale e allo sviluppo sostenibile.
Il terzo principio affronta l’uso responsabile della tecnologia. La Dichiarazione chiede che nessuna organizzazione o governo avvii sistemi di auto-miglioramento completamente automatizzati senza adeguati meccanismi di supervisione e senza la possibilità di interromperne il funzionamento.
Il quarto punto riguarda la governance internazionale. I firmatari propongono la costruzione di nuove istituzioni globali dedicate alla regolazione dell’intelligenza artificiale, sostenendo anche il futuro Panel Scientifico Internazionale Indipendente delle Nazioni Unite sull’AI.
Il quinto principio richiama la leadership politica, sottolineando che le decisioni sulle tecnologie più avanzate non possono essere lasciate esclusivamente alle aziende tecnologiche o alla competizione economica, ma richiedono un coordinamento internazionale.
Infine, il sesto punto rilancia il tema del disarmo nucleare, chiedendo il rispetto degli impegni previsti dal Trattato di non proliferazione (TNP) e dal Trattato sulla proibizione delle armi nucleari (TPNW), con l’obiettivo di arrivare all’eliminazione verificabile e irreversibile degli arsenali atomici.
Il principio più importante: il controllo umano
Il passaggio probabilmente più significativo della Dichiarazione riguarda il rapporto tra intelligenza artificiale e armi nucleari. Il documento afferma in modo esplicito che la decisione finale sull’impiego di un’arma nucleare non dovrà mai essere affidata a un sistema automatizzato.
Per questo viene proposta l’adozione di un trattato internazionale che vieti l’integrazione irresponsabile dell’AI nei sistemi di comando, controllo e lancio delle armi nucleari. L’obiettivo è preservare quello che gli esperti definiscono un “controllo umano effettivo e significativo“, evitando che algoritmi o software possano autorizzare autonomamente l’impiego di armi di distruzione di massa.
La Dichiarazione invita inoltre gli Stati dotati di arsenali nucleari a rafforzare i propri sistemi di sicurezza attraverso verifiche periodiche (fail-safe review) e ad adottare la two-person rule, la procedura che richiede sempre la conferma di almeno due persone prima di autorizzare l’impiego di armamenti nucleari.
I rischi dell’intelligenza artificiale nella competizione globale
Durante i lavori dell’Assemblea è emersa una convinzione condivisa: il rischio non deriva dall’intelligenza artificiale in sé, ma dalla velocità con cui la sua evoluzione sta superando la capacità delle istituzioni di regolamentarla.
L’AI è ormai un fattore strategico tanto quanto l’energia, le materie prime o i semiconduttori. Le grandi potenze investono centinaia di miliardi di dollari per ottenere un vantaggio tecnologico destinato ad avere ricadute economiche, industriali e militari.
La Dichiarazione richiama diversi rischi. Il primo è la concentrazione del potere tecnologico nelle mani di pochi Stati e di un numero limitato di grandi aziende, con conseguenti squilibri geopolitici. Il secondo riguarda la possibilità che sistemi sempre più autonomi vengano utilizzati nelle operazioni militari, nella guerra elettronica e negli attacchi informatici contro infrastrutture critiche, comprese quelle nucleari.
Vi è poi il rischio economico e sociale: la diffusione dell’AI potrebbe trasformare profondamente il mercato del lavoro, aumentare le disuguaglianze e intensificare la competizione tra le grandi potenze. Infine, gli esperti evidenziano il problema della velocità decisionale. Sistemi capaci di elaborare enormi quantità di dati in tempi brevissimi potrebbero comprimere i tempi della diplomazia e della valutazione politica, aumentando il rischio di errori o escalation involontarie durante una crisi internazionale.
Un appello alla governance globale
La Dichiarazione di Roma non propone di fermare lo sviluppo dell’intelligenza artificiale. Al contrario, riconosce che questa tecnologia può offrire enormi benefici nella medicina, nella ricerca scientifica, nella protezione dell’ambiente e nella crescita economica.
Il punto centrale è un altro: tecnologie con un impatto strategico così elevato non possono essere governate esclusivamente dalle logiche del mercato o della competizione geopolitica. Per questo il documento invita governi, organizzazioni internazionali, comunità scientifica e industria tecnologica a costruire una governance condivisa, capace di mantenere sempre il controllo umano sui sistemi più critici e di impedire che la convergenza tra intelligenza artificiale e armamenti nucleari diventi il principale fattore di instabilità del XXI secolo.
All’evento, organizzato dalla Fondazione Domus Communis, è intervenuta anche l’attrice americana Sharon Stone, Nuntius Magnifica Humanitas (Ambasciatrice di Magnifica Humanitas), il cui discorso ha posto l’accento sulla dimensione umana e morale delle sfide poste dall’intelligenza artificiale.
Più che un manifesto politico, la Dichiarazione rappresenta un richiamo rivolto alla comunità internazionale: la sfida non è scegliere tra innovazione e sicurezza, ma creare regole che consentano di sviluppare l’intelligenza artificiale senza trasformarla in un moltiplicatore del rischio nucleare. In un mondo in cui la competizione tecnologica è ormai parte integrante della competizione geopolitica, il governo dell’AI diventa così una questione di sicurezza globale.
L’iniziativa è stata promossa con il sostegno della Assemblea dei Premi Nobel per la Prevenzione della Guerra Nucleare, della Nobel Women’s Initiative, di IPPNW – International Physicians for the Prevention of Nuclear War, Pugwash, Yunus Center, The Catholic University of America, University of Chicago – Existential Risk Laboratory, Harvard Medical School, Brigham and Women’s Hospital, University of Notre Dame, Bulletin of the Atomic Scientists e Soka Gakkai, con la Fondazione Domus Communis nel ruolo di Segreteria Generale.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
