Democrazia Futura. Appunti di geopolitica digitale

Segue un’analisi di Pieraugusto Pozzi dedicata agli impatti della trasformazione digitale. Nei suoi “Appunti di geopolitica digitale” il neo segretario di Infocivica esamina “il nuovo spazio delle relazioni politiche e delle relazioni tra Stati e [le] questioni nuovissime di sicurezza e sovranità [che esso innesca], per cui “pare appropriato trattare di geopolitica del digitale, o, tout court, di geopolitica digitale, considerato il rilievo di tale trasformazione sul piano politico, economico, sociale, culturale”. Come chiarisce l’occhiello questi appunti si propongono di affrontare “Momento tecnopolare e intelligenza artificiale. Globalismo, nazionalismo, tecno-utopismo”. Per Pozzi “La trasformazione digitale impatta il principio e l’esercizio della sovranità statuale nei settori cardine degli Stati moderni: moneta, difesa, istruzione, sanità, fiscalità e giustizia, che vedono mutati assetti organizzativi tradizionali e consolidati e, persino, la propria missione essenziale. La trasformazione digitale disegna un nuovo spazio delle relazioni politiche e delle relazioni tra Stati e innesca questioni nuovissime di sicurezza strategica. E dunque pare appropriato trattare di geopolitica del digitale, o, tout court, di geopolitica digitale, se si valuta il rilievo complessivo del digitale sul piano politico, economico, sociale, culturale. Per esempio, in relazione alla digitalizzazione ma soprattutto alla datificazione, la statistica, funzione originaria dello stato nazionale, diventa dataistica privata e globale, in tempo reale. Le criptovalute, le nuove forme di valuta privata e l’immaterialità del digitale sottraggono sovranità fiscale e monetaria. E il surriscaldamento sociale, definito social warming da Arthur, determinato dal flusso informazionale governato dagli algoritmi di ingaggio sui social, può contribuire ad alimentare un senso di sfiducia diffusa nella società e l’infodemia, come si è visto nel periodo pandemico. Senza considerare le sfide che l’infrastruttura digitale pone alla sicurezza di sistemi e infrastrutture fondamentali, anche materiali. E l’importanza crescente delle tecnostrutture nei confronti delle burocrazie e dei poteri politici e amministrativi. Nel momento attuale, che Bremmer definisce tecnopolare per sottolineare il ruolo del digitale come principale fattore di ordinamento delle relazioni geopolitiche e con l’incombere delle applicazioni dell’intelligenza artificiale in ambito militare e strategico, che preoccupa Kissinger, Schmidt e Huttenlocher perché ad ora sembra mancare un corrispettivo del principio di deterrenza nucleare, sarà possibile percorrere la via delle regole, scelta dall’Europa, svantaggiata dalla dimensione trascurabile delle proprie imprese digitali rispetto ai giganti statunitensi e cinesi? Sarà davvero possibile costituzionalizzare lo spazio digitale e gli usi dell’intelligenza artificiale?”.

________________________________________

Secondo l’enciclopedia Treccani, geopolitica è «termine coniato dallo svedese Rudolph Kjellén per indicare quel complesso di problemi politici che traggono origine da fatti d’ordine territoriale, specie quando si consideri lo Stato come un organismo che nasce, si sviluppa e decade, e che, al pari degli esseri viventi, ha bisogno di uno spazio vitale».

Poiché la trasformazione digitale disegna un nuovo spazio delle relazioni politiche e delle relazioni tra Stati e innesca questioni nuovissime di sicurezza e sovranità, non sembra azzardato caratterizzare anche il digitale come nuovo fattore geopolitico, tra gli altri che la teoria indica come fattori permanenti

«lo spazio, la posizione, la natura continentale o insulare, la morfologia, la dimensione, il clima, le risorse naturali e la cultura di un popolo» (1).

E dunque pare appropriato trattare di geopolitica del digitale, o, tout court, di geopolitica digitale, considerato il rilievo di tale trasformazione sul piano politico, economico, sociale, culturale.

Del resto, l’importanza politica e strategica (cioè geopolitica) del digitale è stata ampiamente avvertita da diversi leader della politica, con vari accenti e con particolare attenzione all’intelligenza artificiale: Angela Merkel osservava nel 2016 che «la trasparenza e la negoziabilità degli algoritmi afferisce ormai alla natura e alla sicurezza della democrazia»; Vladimir Putin nel 2017 si diceva convinto che: «chi controllerà la migliore intelligenza artificiale, governerà il mondo»; mentre Xi Jinping nel 2017 si dichiarava convinto che: «l’intelligenza artificiale cambierà profondamente il mondo e la vita umana e sociale… questo strumento consentirà un governo più efficiente e sarà indispensabile per mantenere la stabilità sociale».

Negli ultimi anni, questi discorsi si sono inverati in fatti che hanno esemplificato l’importanza potenziale ed effettiva della geopolitica del digitale. Basti pensare alle ingerenze elettorali, collegate alle attività di Cambridge Analytica, nelle elezioni presidenziali statunitensi, in occasione del referendum sulla Brexit del 2016 e, più recentemente, dell’assalto a Capitol Hill nel gennaio 2021.

Nel seguito, riferendo qualche lettura, verranno proposti appunti di geopolitica digitale sulla sovranità, sull’importanza delle tecnostrutture, sul surriscaldamento sociale che deriva dalla comunicazione digitale, sul potere tecnologico e sull’intelligenza artificiale.

Sovranità e digitale. Dalla statistica alla dataistica privata

Non possono esserci dubbi sul fatto che la trasformazione digitale impatti il principio e l’esercizio della sovranità statuale nei settori cardine degli Stati moderni: moneta, difesa, istruzione, sanità, fiscalità e giustizia. Settori e ambiti sfidati dalla trasformazione digitale, che ne muta gli assetti organizzativi e la missione essenziale. Basti pensare alla statistica (disciplina che definisce i sistemi e i metodi di raccolta, ordinamento ed elaborazione dei dati) che, come ricorda il suo etimo, si sviluppa storicamente per rafforzare la capacità di governo degli Stati nazionali attraverso raccolta ed elaborazione di dati demografici, sanitari, scolastici, amministrativi.

Negli ultimi decenni, prima la digitalizzazione e soprattutto la datificazione, stanno invece portando un volume costantemente crescente di dati di interesse pubblico (particolarmente quelli raccolti in tempo reale) verso le grandi piattaforme private globali. Come ha dimostrato l’accidentato sviluppo delle applicazioni di tracciamento nella crisi pandemica che ha richiesto, almeno nei paesi occidentali, l’accordo con Apple e Google, detentori della tecnologia operativa degli smartphone. In sintesi, alla statistica dei dati medi e generali si sostituisce una dataistica privata, globale, in tempo reale che per di più ha, nell’acquisizione ed elaborazione di dati e informazioni, una granularità di ispezione individuale e non solo sociale.

Pesanti limiti alla sovranità monetaria e fiscale degli Stati conseguono, come è accertato, dall’immaterialità delle transazioni digitali finanziarie e commerciali e, in prospettiva, dalla crescita delle criptovalute, che capitalizzano già migliaia di miliardi di dollari e dall’annunciata operatività di valute digitali private, come Diem di Facebook.

Vanno infine segnalate le minacce alla giurisdizione degli Stati, alla sovranità e alla sicurezza che altri Stati, gruppi criminali e terroristici, imprese ed “agenzie private”, usando mezzi digitali, possono portare alle infrastrutture, alle istituzioni e alle comunità, con gravi conseguenze operative, geopolitiche, democratiche ed economiche. Una situazione paradossale: le amministrazioni e gli apparati, innervati di digitale per migliorarne efficacia, funzionamento e prestazioni, ne diventano quasi ostaggio, essendo molto più fragili ed esposti a rischi e attacchi non facilmente prevedibili nella tipologia e negli esiti, rispetto a quelli analogici.

Digitale e potere. Dalle burocrazie alle tecnostrutture

A settembre 2021, la lentezza della trasformazione digitale delle forze armate statunitensi ha motivato Nicolas Chaillan (2), alle dimissioni dall’incarico di chief software officer del Dipartimento della Difesa statunitensi che aveva ricoperto per tre anni:

«Per 15-20 anni la Cina sarà dominante. È già certo […] È colpa dell’innovazione lenta nelle strutture dell’esercito, della riluttanza delle aziende statunitensi come Google a lavorare con lo Stato sull’intelligenza artificiale e degli ampi e inconcludenti dibattiti etici sulla tecnologia», aggiungendo che alcuni dipartimenti USA hanno inadeguati (kindergarten) livelli di sicurezza.

A novembre 2021, Chaillan ha scritto che per rafforzare gli apparati della difesa digitale degli Stati Uniti anziché creare corpi speciali interni alle forze armate, sia preferibile consentire un’osmosi continua di persone tra gli apparati della difesa e le imprese tecnologiche private. Nel Regno Unito, Priti Patel, ministra dell’Interno britannica, ha deciso di affidare ai servizi cloud di Amazon dati e dossier dell’intelligence (3), cioè i dati più importanti e sensibili della sicurezza nazionale, suscitando polemiche e allarmi nel mondo politico.

Preoccupazioni e allarmi che, in significativa analogia, riguardano il salto tecnologico verso architetture cloud della Pubblica Amministrazione italiana e le necessarie cautele e condizioni da porre nelle procedure di affidamento e di gestione dei dati pubblici verso gli affidatari di tali nuovi servizi. Servizi che possono essere gestiti da soggetti nazionali ma che si fondano su infrastrutture di soggetti privati transnazionali.

A questo tema è legato anche il tema del controllo dell’infrastruttura nazionale di telecomunicazioni e delle sue interconnessioni internazionali, tema innovato dall’offerta di acquisto di TIM da parte del fondo di investimento statunitense KKR. Offerta che sfida il gruppo francese Vivendi e che, riporta all’attenzione una notevole particolarità, tutta italiana: il nostro è l’unico paese europeo nel quale l’azionista di riferimento del principale operatore di telecomunicazioni, incumbent ex monopolista, sia straniero.

A ben vedere, si tratta di gestire e controllare grandi sistemi interconnessi, organizzati e gestiti da centri di controllo: i sistemi a rete dell’energia, delle comunicazioni e dell’informazione e le reti finanziarie, sanitarie, trasportistiche, militari, ovvero di macrosistemi tecnici. Gestione e controllo che richiede una normatività tecnico-economica che tende a dettare (quasi a subordinare) anche le norme giuridiche (e quelle etiche, come nelle biotecnologie, nel nucleare, nel digitale) ed è esercitata da organizzazioni tecnico-gestionali e da personale strutturati in funzioni e ruoli che attuano procedure costantemente aggiornate.

Organizzazioni complesse di controllo e decisione che John Galbraith definisce tecnostrutture e che possono interpretarsi come l’evoluzione, o il superamento, delle burocrazie militari, statali e industriali che avevano caratterizzato l’articolazione degli Stati nazionali e la prima fase della produzione di massa. Nei paesi più avanzati si forma così una rete di tecnostrutture, che innerva Stati e sistema produttivo, che Dwight David Eisenhower, nel discorso d’addio alla nazione del 1961, chiamò complesso militare-industriale e che Galbraith indicò come tecnostruttura militare-industriale e che oggi è inevitabilmente digitale.

Silenziosamente, le tecnostrutture sembrano quasi in grado di sovraordinarsi al potere politico: perché esso non può farne a meno nell’informazione, nella conoscenza, nella sanità, nella difesa per poter esercitare il proprio potere interno ed esterno. E per bilanciare il potere di altre tecnostrutture, non statuali ed operanti fuori dalla giurisdizione dei poteri politici, fiscali e giudiziari nazionali, come quelle della finanza speculativa e della disinformazione.

Social warming e sfiducia sociale

Le vicende pandemiche e politiche intrecciate alla trasformazione digitale sembrano confermare l’ipotesi di un surriscaldamento sociale (in inglese social warming (4), in assonanza al global warming o riscaldamento globale) derivante dalla peculiare connessione delle menti che si realizza nell’universo digitale, che amplifica la polarizzazione politica e sociale. Ai valori unificanti del Secondo dopoguerra, che davano comunque una prospettiva agli aspri conflitti politici e sociali dell’epoca, come apertura al futuro, competenza, valutazione scientifica, fiducia e coesione sociale, si sono a poco a poco sovrapposti ritorno al passato, superficialità, opinionismo compulsivo e anti-elitismo, sfiducia ed egoismo sociale. Discorsi che hanno contagiato anche le scelte sanitarie di fronte alla pandemia: mai interessati da simili disastri nella storia recente, alcuni paesi guida, di grande tradizione scientifica e sanitaria, sono stati tra i più colpiti.

Di fatto, il discorso politico, culturale e sociale si svolge sempre meno nello spazio pubblico residuale, nel quale si dibattono gli eredi della modernità analogica (partiti, giornali, mass-media). Avviene invece, sempre di più, nello spazio privato della profilazione e della personalizzazione delle piattaforme digitali e delle reti cosiddette sociali. Uno spazio, sottratto o quasi alla legislazione su attori, contenuti e tempi, che gli stessi gestori-proprietari delle piattaforme auto-regolamentano, suscitando la reazione dei settori politici che, nei singoli casi, si sentono discriminati.

Si consolidano così webpopulismi (5), ribellismi e un crescente senso di sfiducia verso corpi intermedi e istituzioni. Se si pensa che queste siano riflessioni anti-tecnologiche o ideologiche, basta ricordare le affermazioni fatte in un evento istituzionale nel 2018 da Tim Cook, massimo dirigente di Apple:

“Le piattaforme e gli algoritmi che promettevano di migliorare la nostra vita possono effettivamente amplificare le nostre peggiori tendenze. Gli operatori canaglia ma anche i governi hanno approfittato della fiducia degli utenti per approfondire le divisioni, incitare alla violenza e persino minare il nostro senso condiviso di ciò che è vero e di ciò che è falso. Questa crisi è reale. Non è immaginazione, esagerazione o pazzia” (6).

Nel 2018, il caso Cambridge Analytica rivelò le attività di propaganda computazionale che nel 2016 avrebbero influito, sia sul referendum Brexit, sia sulle presidenziali statunitensi, realizzate con l’invio di messaggi personalizzati a decine di milioni di profili Facebook opportunamente selezionati. Facebook ha chiuso il caso delle elezioni americane pagando una sanzione comminata dalla Federal Trade Commission (FTC) di 5 miliardi di dollari ma la pubblicazione su The Wall Street Journal di documenti interni – i Facebook files (7), ora diventati Facebook Papers – e la testimonianza al Senato statunitense di Frances Haugen, ex dirigente del dipartimento integrità civica di Facebook (un dipartimento che rivela, col suo nome, le problematiche ricadute pubbliche di un business totalmente privato) hanno riacceso l’attenzione.

Haugen ha dichiarato: «Sono qui oggi perché credo che i prodotti Facebook danneggino i bambini, alimentino la divisione e indeboliscano la nostra democrazia. La leadership dell’azienda saprebbe come rendere più sicuri Facebook e Instagram, ma non apporterà i cambiamenti necessari. Perché ha messo i suoi profitti astronomici prima delle persone» (8).

L’algoritmo engagement based ranking

In particolare, Haugen ha descritto l’algoritmo engagement based ranking, introdotto da Facebook nel 2018, che sceglie quali post e notizie mostrare agli utenti in funzione dell’engagement (ingaggio, impegno, interazione, reazione) che tali contenuti e visualizzazioni sono in grado di provocare. Maggiore è l’ingaggio che sollecitano nei destinatari, più è probabile che tali contenuti siano mostrati loro, affinché ottengano like e condivisioni che, con effetto moltiplicatore, si incrementino sempre più. In sostanza, non solo l’algoritmo consente agli utenti con interessi simili di condividerli, ma si comporta come un sensale digitale (matchmaker) che li accoppia: la piattaforma non è uno strumento passivo di condivisione ma diventa così un catalizzatore della condivisione di contenuti, di solito controversi, che ingaggiano. Che provocano più interazioni, si incrementano e diventano rapidamente prevalenti, mentre i contenuti ragionevoli e meno controversi sono poco attraenti e rimangono in ombra.

L’uso di questo algoritmo spiegherebbe come Facebook, favorendo polarizzazione e disinformazione, surriscaldi la società come capita, secondo uno studio interno, anche all’algoritmo di ordinamento di Twitter (9). Entrambi i casi sono l’esito di logiche algoritmiche proprietarie protette dal segreto industriale – Frank Pasquale (10) le chiama black box – e non regolamentate. Ma permesse dalla disciplina definita agli albori di Internet per favorirne lo sviluppo e tuttora vigente (in particolare, la Section 230 (11) del Communications Act statunitense del 1934, emendata tra il 1996 e il 1998). Norme che mettono le piattaforme al riparo dalle responsabilità sui contenuti che veicolano, al contrario di quanto vale per i media che vengono dal mondo analogico (stampa e radiotelevisione). Che sono regolati secondo principi di trasparenza, di responsabilità, di deontologia, che vincolano, almeno in linea di principio, le imprese e i professionisti che li gestiscono (editori e giornalisti). Se il sistema analogico di circolazione e di controllo dell’informazione (quadro giuridico, servizi e sostegni pubblici) aveva consentito di contenere falsificazioni, opinioni estreme e discorsi propagandistici, nell’universo dell’info-comunicazione digitale, tutto è cambiato. Informazione scientifica e professionale, comunicazione istituzionale, propaganda, pubblicità, fake news, giornalismo d’inchiesta e d’opinione, disinformazione sono entrati in diretta concorrenza nell’attirare l’attenzione del pubblico.

Attraverso i social media, i discorsi alternativi (che senza alcuna verifica diventano fatti alternativi) possono essere velocemente e capillarmente diffusi e condivisi. L’impossibilità di governare efficacemente, con norme adeguate e in tempo reale, questi flussi informazionali è quindi una seria minaccia per la concordia sociale, particolarmente pericolosa nella povertà economica e informazionale, ma anche nelle democrazie ricche e plurali, come ha dimostrato l’assalto a Capitol Hill.

Momento tecnopolare ed era dell’intelligenza artificiale

Su Foreign Affairs, Ian Bremmer definisce tecnopolare il momento attuale (12), intendendo che oggi i poteri digitali ridisegnano l’ordine mondiale come fece l’egemonia statunitense, al termine della Guerra Fredda, nel momento unipolare.

Bremmer constata che i colossi del digitale non sono più semplici aziende ma sono imprese globali che hanno un ruolo così fondamentale nell’economia, nella configurazione della società e nella sicurezza dei soggetti statutali e delle imprese, anche globali, di tutti gli altri settori da avere un potere crescente. Non sono più agenti economici che possano essere controllati dalla politica ma sono essi stessi i soggetti che tracciano il futuro e influenzano le scelte degli Stati. Soggetti che, con la digitalizzazione delle attività economiche, amministrative e di difesa aumenteranno ulteriormente il loro potere.

In questo panorama, si confrontano, secondo Bremmer tre tendenze, che convivono e competono sia nelle diverse aree geopolitiche, sia nelle strategie delle imprese:

• il globalismo (la linea che non desidera intralci della politica al pieno sviluppo dello spazio digitale globale);
• il nazionalismo (la linea che intende rafforzare l’alleanza del potere digitale con il potere politico);
• il tecno-utopismo (la linea che considera il potere politico statuale un residuo dell’epoca analogica che gli attori digitali inevitabilmente ridurranno sempre di più).

In questo momento, negli Stati Uniti alcuni attori (Apple e Google?) sembrano più globalisti, altri tecno-utopisti (Facebook?) e altri ancora (Microsoft e Amazon?) più nazionalisti.

In Cina, le recenti riaffermazioni del potere politico sul potere degli oligarchi digitali sembrano richiamare all’ordine globalisti e tecno-utopisti e rafforzare la dimensione nazionalista.

Purtroppo, all’Europa che non dispone di soggetti digitali globali, resta essenzialmente la strada dei diritti e delle norme che potremmo definire come una nuova costituzionalizzazione dello spazio digitale, che, fortunatamente, ha sostituito l’approccio miope ed economicista del mercato unico.

La via europea della costituzionalizzazione dello spazio digitale e dell’Intelligenza Artificiale

Una costituzionalizzazione condotta attraverso la definizione di norme sui mercati e sui servizi digitali (DSA e DMA), sul governo dei dati e sulla privacy (DGA, GDPR e ePrivacy), sull’intelligenza artificiale, la proposta di regole europee (13). Norme fondamentali per rendere possibile il controllo pubblico dello spazio digitale, alle quali dovrebbe accompagnarsi una politica industriale che permetta lo sviluppo di soggetti europei forti (nella gestione delle reti, del cloud, nelle applicazioni) per evitare la subalternità, non solo tecnologica ma di sovranità, alle piattaforme statunitensi e cinesi. Una speranza alla quale il Piano Next Generation Eu potrà dare prospettive concrete pensando agli esiti dei progetti europei di settore che sono stati continuativamente finanziati negli ultimi quarant’anni?

Nel frattempo, le applicazioni di intelligenza artificiale si stanno diffondendo in modo così pervasivo, perfezionato e silenzioso da non consentire, spesso, all’utente che le interfaccia di capire se ha a che fare con un altro umano o con un automa, in una sorta di concreta applicazione del gioco dell’imitazione di Turing (14).

Sistemi basati sull’Intelligenza Artificiale approvano mutui o prestiti al consumo attribuendo punteggi di credito alle persone o alle imprese. Sistemi di trattamento del linguaggio naturale creano testi e software e sono usati nei servizi alla clientela di grandi imprese di servizi, mentre sistemi di riconoscimento delle immagini e dei suoni possono analizzare emozioni e stati d’animo delle persone ritratte e ascoltate o semplicemente valutare, per le assicurazioni, il costo delle riparazioni di automobili o manufatti.

Come si è detto, non mancano proposte normative, linee guida e raccomandazioni sui principi etici e che dovrebbero governare l’IA: secondo l’osservatorio indipendente AlgorithmWatch (15), nel mondo sono finora stati pubblicati, da organismi privati e pubblici, quasi duecento documenti contenenti principi etici che promuovono equità, responsabilità e trasparenza.

Ma la vera sfida è tradurre i giusti principi nella pratica, vista la complessità, l’ubiquità e l’opacità dei tanti casi d’uso. Si tratta di una gara molto difficile per l’umano: con una dotazione intellettiva e mnemonica stabile e sottoposto a stimoli informativi sempre più invasivi e pervasivi, si confronta con agenti artificiali che si perfezionano ogni giorno di più.

L’intelligenza artificiale come campo di battaglia del Ventunesimo secolo. Lo spettro di una Sarajevo digitale ventilato da Henry Kissinger

I riflessi geopolitici di tale pervasività sono esaminati nel libroappena uscito The Age of AI: And Our Human Future (16), opera di tre autori molto influenti, tipici rappresentanti di quell’incrocio statunitense, cruciale e strategico, tra accademia, politica e impresa: Henry Kissinger, notissimo ex Segretario di Stato, ormai centenario, Eric Schmidt, ex capo di Google e coordinatore della National Security Commission on Artificial Intelligence (17) e Daniel Huttenlocher, prestigioso decano del MIT. Gli autori riflettono sul “campo di battaglia” di questo XXI secolo: l’intelligenza artificiale. In particolare, Kissinger ritiene così profonda l’impatto dell’intelligenza artificiale negli attuali equilibri geopolitici da poter comparare l’attuale momento storico al decennio precedente la Prima Guerra mondiale: la disinformazione che a quell’epoca avvelenava i rapporti tra i paesi vicini rappresentava un serbatoio pericoloso di incomprensioni e odio che avvicinava sempre più al conflitto senza che i leader di quel momento ne fossero davvero consapevoli. Una disinformazione sistematica e carsica stava preparando il terreno, creando sospetti artificiali, finché un attentato che poteva non avere conseguenze ulteriori, si trasformò in un drammatico casus belli. Schmidt, che aveva ideologizzato lo spazio digitale come spazio sottratto alla sovranità statuale: «il mondo online non è limitato in alcun modo dalle leggi … è il più grande spazio non governato del mondo» (18), confessa ora di non aver previsto un uso così oscuro e pervasivo della tecnologia e quasi si rammarica di avervi contribuito. Gli Stati Uniti e la Cina stanno cominciando la corsa agli armamenti digitali attraverso forti investimenti in tecnologia e in istruzione tecnologica. Nessuno vuole consciamente una Sarajevo digitale, ma nessuno può escludere questa eventualità, anche perché potrebbe innescarsi dalle decisioni, simulate, facilitate o addirittura assunte da sistemi di intelligenza artificiale e non esiste, a parere degli autori, né una vera consapevolezza di tale pericolo, né un’equivalente digitale del concetto strategico di deterrenza nucleare.

Preoccupazioni anticipate da tempo dalla comunità scientifica.

Lo testimoniano la Lettera Aperta del Future of Life Institute del 2017 per una moratoria immediata delle armi autonome letali (19), la Lettera Aperta di 400 ricercatori tedeschi (novembre 2021) che chiede al nuovo governo di non dotare le forze armate di armi autonome (20) e la BBC Reith Lecture 2021 «AI In Warfare» dello scienziato dell’informazione Stuart Russell (21).

Anche i riflessi della trasformazione digitale sul piano dei diritti suscitano notevoli preoccupazioni, non solo per le logiche di sorveglianza ampiamente note e discusse, anche in Democrazia futura, ma di nuovo riferite all’intelligenza artificiale. Eric Lander, genetista, consigliere scientifico principale del presidente Joe Biden e direttore dell’Ufficio per la politica scientifica e tecnologica della Casa Bianca e Alondra Nelson, vicedirettrice, scrivono:

«è inaccettabile creare un’intelligenza artificiale che danneggi molte persone, così come è inaccettabile per prodotti farmaceutici, automobili, giocattoli per bambini o dispositivi medici […] nel Ventunesimo secolo, abbiamo bisogno di una “carta dei diritti” per difenderci dalle potenti tecnologie che abbiamo creato» (22).

Davvero preveggente fu l’osservazione formulata da Joseph Carl Robnett Licklider (1915-1990), psicologo e scienziato dell’informazione, che studiò la cooperazione (che definiva simbiosi) tra uomo e computer e operò negli anni Sessanta e Settanta tra amministrazione, imprese e ricerca, coordinando progetti altamente innovativi, come quelli pionieristici sulle reti di calcolatori. Protagonista della ricerca informatica, diede una spinta decisiva all’odierna trasformazione digitale e così scriveva nel 1979:

“Dal punto di vista dell’umanità – se solo l’umanità avesse un punto di vista – la cosa importante sembrerebbe uno sviluppo saggio anziché rapido o intensivo della informatica. Questioni cruciali come sicurezza, privacy, preparazione, partecipazione e fragilità devono essere risolte in modo appropriato prima che si possa concludere che la computerizzazione e la programmazione sono un bene per i singoli e per la società” (23).

Una riflessione preziosa ed attualissima, che invita ad essere consapevoli degli effetti geopolitici della trasformazione digitale, per fare in modo che il momento tecnopolare non sia popolato da sonnambuli. E che l’illusione di stanche élite politiche di riprendere il potere che hanno più o meno consapevolmente ceduto alle élite tecnocratiche, globali, anonime e fortemente competitive (24), non porti a disastrosi errori di valutazione.

Note al testo

• Carlo Jean, “Geopolitica” in: Enciclopedia Treccani del Novecento, II Supplemento, 1998; https://www.treccani.it/enciclopedia/geopolitica_%28Enciclopedia-del-Novecento%29/.

• Nicolas Chaillan,“To catch up with China, the Pentagon needs a new AI strategy”, The Financial Times, 22 novembre 2021.

• Giampiero Gramaglia, “Povero 007. I suoi segreti sono affidati ad Amazon”, il Fatto Quotidiano, 28 ottobre 2021

• Charles Arthur, Social Warming: The Dangerous and Polarising Effects of Social Media, London, Oneworld,  2021, 304 p.

• TMTG Corp., di proprietà dell’ex presidente Donald Trump, escluso da Twitter e Facebook dopo i fatti di Capitol Hill, ha annunciato il 20 ottobre 2021 la fusione con la Spac quotata DWAC e il lancio della piattaforma Truth Social con una dichiarazione dello stesso Trump: «Ho creato Truth Social e TMTG contro la tirannia di Big Tech. Viviamo in un mondo dove i talebani hanno una enorme presenza su Twitter, mentre il vostro presidente preferito è ancora ridotto al silenzio. Questo è inaccettabile! Truth è fondato per dare voce a tutti» (tr. autore); https://tinyurl.com/4bepcudf. A seguito dell’annuncio, il valore del titolo DWAC si è impennato oltre il 400 per cento.

• Tim Cook, “Remarks before the 40th International Conference of Data Protection&Privacy Commissioners”, Bruxelles, 24 ottobre 2018; https://tinyurl.com/y6287rmd.

• https://www.wsj.com/articles/the-facebook-files-11631713039.

• US Senate Committee on Commerce, Science and Transportation: Statement of Frances Haugen, 4 ottobre 2021, https://tinyurl.com/299tb7ek; Protecting Kids Online: Testimony from a Facebook Whistleblower, 5 ottobre 2021, https://tinyurl.com/2wbpdk5c.

• Rumman Chowdhury, Luca Belli, “Examining algorithmic amplification of political content on Twitter”, Blog, 21 ottobre 2021, https://tinyurl.com/53ea6xmv; Luca De Biase, “L’algoritmo di Twitter amplifica di più a destra”, Il Sole-24Ore, 31 ottobre 2021.

• Frank Pasquale, The Black Box Society. The Secret Algorithms that Control Money and Information, Harvard, Harvard University Press, 2016, 311 p.

• U.S. Code – Title 47 – Telecommunications § 230 – Protection for private blocking and screening of offensive material, https://tinyurl.com/vw4u59z4. I principi cardine della Sezione sono la minima regolamentazione governativa e l’irresponsabilità editoriale e autoriale dei fornitori di servizi Internet sui contenuti.

• Ian Bremmer, “The Technopolar Moment. How Digital Powers Will Reshape the Global Order”, Foreign Affairs, Volume 100 C (6), novembre-dicembre 2021.

• «Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza Artificiale (Legge sull’intelligenza Artificiale)» (COM/2021/206 Final; 21 aprile 2021) attualmente in discussione, https://tinyurl.com/zzjrrpb5.

• Il test di Turing è un criterio per determinare se una macchina sia in grado di esibire un comportamento intelligente. Tale criterio è stato suggerito da Alanì Turing nell’articolo “Computing machinery and intelligence”, apparso nel 1950 sulla rivista Mind.

• https://inventory.algorithmwatch.org/.

• Henry Kissinger, Eric Schmidt, Daniel Huttenlocher, The Age of AI: And Our Human Future, Boston (Massachussetss), Little, Brown & Company, 2021, 272 p.

• «The mandate of the National Security Commission on Artificial Intelligence (NSCAI) is to make recommendations to the President and Congress to “advance the development of artificial intelligence, machine learning, and associated technologies to comprehensively address the national security and defense needs of the United States»; https://reports.nscai.gov/final-report/table-of-contents/.

• Eric Schmidt, Jared Cohen, The New Digital Age. Reshaping the future of People, Nations and Business, New York, Alfred A. Knopf, 2013, 315 p.

•  Future of Life Institute, “An Open Letter To The United Nations Convention On Certain Conventional Weapons”, 21 agosto 2017, https://futureoflife.org/autonomous-weapons-open-letter-2017/.

• “Stop the arming of drones for the Bundeswehr – outlaw autonomous weapon”. Appello pubblicato al seguente link: https://aiscientists4peace.org/offener-brief/english-version

• The Reith Lectures 2021 – Living with Artificial Intelligence di Stuart Russell sono disponibili sul sito BBC, https://tinyurl.com/2ujy5rnb.
• Eric Lander, Alonda Nelson, “Americans Need a Bill of Rights for an AI-Powered World”, Wired, 8 ottobre 2021; https://tinyurl.com/yzcwdbuw (tr. autore).

• Joseph Carl Robnett Licklider, Computers and government, in Michael Leonidas Dertouzos, Joel Moses (a cura di), The computer age. A twenty-year view, Cambridge Massachissets, The MIT Press 1979, XIV-491 p.

• Giorgio Galli, Mario Caligiuri, Come si comanda il mondo, Teorie, volti, intrecci, Soveria Mannelli, Rubbettino 2017, 229 p.