L’invito di Jakub Pachocki, capo scienziato di OpenAI, a lavorare per un’AI “meno aliena”, più amica, sicura e rispettosa del nostro mondo
“Un’intelligenza aliena superiore alla nostra”. È con questa immagine che Jakub Pachocki, capo scienziato di OpenAI, descrive il futuro verso cui starebbe correndo l’intelligenza artificiale (AI) attraverso un articolo di approfondimento dal titolo “An Alien Mind” pubblicato sul blog aziendale. Lo stesso titolo non è frutto di una scelta linguistica neutrale e neppure soltanto una riflessione scientifica.
La sua riflessione ruota attorno a una tesi centrale: l’AI sta entrando in una fase di accelerazione nella quale le capacità dei sistemi potrebbero crescere più rapidamente della nostra capacità di comprenderli, controllarli e renderli sicuri.
Pachocki sostiene, inoltre, che nessun laboratorio abbia ancora risolto adeguatamente i problemi di allineamento e monitoraggio e auspica rallentamenti volontari e coordinamento internazionale. Dal suo punto di vista, bisogna fare in modo che sistemi sempre più capaci continuino a perseguire obiettivi e valori compatibili con quelli umani. Per questo distingue tra “allineamento degli obiettivi”, cioè fare ciò che viene richiesto, e “allineamento dei valori”, ossia mantenere principi più generali anche davanti a situazioni nuove, ambigue o ostili.
Un messaggio apparentemente prudente. Ma letto dal punto di vista industriale e geopolitico contiene una contraddizione: OpenAI mette in guardia dalla corsa all’AI mentre resta uno dei soggetti che quella corsa stanno guidando, autoproclamandosi tra le righe come l’attore più adatto a questo ruolo.
Non a caso Greg Brockman, presidente e cofondatore di OpenAI, ha presentato il nuovo modello GPT-6 Astra come “il più intelligente e allineato al mondo”.
Il rischio diventa legittimazione
Il ragionamento di Pachocki parte dalla potenza di calcolo. OpenAI, spiega, comprese già intorno al 2017 che per restare all’avanguardia era necessario accedere a quantità sempre maggiori di capacità computazionale e concentrare la ricerca sulle direzioni più facilmente scalabili.
È qui che il linguaggio scientifico incontra quello dell’industria. Scalabilità, capacità, ottimizzazione, potenza di calcolo, crescita, auto-miglioramento: l’AI viene raccontata attraverso categorie che appartengono anche alla finanza e alla strategia competitiva delle Big Tech.
Il progresso appare così quasi come una legge naturale. I modelli diventano più potenti perché aumenta il calcolo; diventando più potenti contribuiscono al proprio sviluppo; il processo può trasformarsi in auto-miglioramento ricorsivo. Pachocki ritiene possibile che questo meccanismo sostenga l’attuale velocità del progresso.
Ma trasformare una precisa strategia industriale in una traiettoria apparentemente inevitabile ha una conseguenza politica: porta in secondo piano la domanda su chi abbia deciso di accelerare, chi finanzi l’accelerazione e chi ne controlli le infrastrutture.
OpenAI costruisce il problema e si candida a risolverlo
La parte più interessante arriva quando Pachocki affronta la sicurezza. I modelli diventano più difficili da interpretare proprio mentre crescono le loro capacità. OpenAI riconosce inoltre che l’efficacia del monitoraggio della “catena di pensiero” sta progressivamente diminuendo: i sistemi interagiscono con persone, strumenti e altre AI, imparano a manipolare meglio il proprio ragionamento e acquisiscono capacità che non dipendono necessariamente dalla verbalizzazione dei loro processi interni.
È un’ammissione rilevante: più cresce la potenza, più fragile rischia di diventare la capacità di controllo. La risposta data, però, non consiste nel mettere in discussione il modello industriale fondato sulla scala. Consiste soprattutto nel costruire AI ancora più avanzate per controllare l’AI.
Pachocki lo dice chiaramente sul fronte cyber: la necessità di sistemi di difesa contro altre intelligenze artificiali sarebbe “l’argomento più convincente” per continuare ad addestrare rapidamente modelli sempre più sofisticati. Per difendersi, sostiene, servirà “un’intelligenza artificiale potente e coordinata”.
Il caso Hugging Face e non solo
Il paradosso è evidente: la tecnologia genera un rischio che diventa a sua volta una giustificazione per sviluppare altra tecnologia. Il tutto nel mentre ci troviamo ad affrontare il problema degli agenti AI sempre più autonomi che vagano per internet attaccando e manipolando siti web e piattaforme digitali. Modelli di AI di frontiera sviluppati nei laboratori della stessa OpenAI e di altri pari (Anthropic e Meta solo per fare qualche esempio).
Il caso emblematico rimane al momento proprio quello alla fine documentato da OpenAI, quando alcuni suoi modelli avrebbero tentato azioni di tipo cyber in ambiente controllato e sarebbero poi usciti dal perimetro del test, fino a interagire con sistemi reali come Hugging Face. Questo episodio è importante non tanto per il danno materiale in sé, quanto perché mostra il salto di qualità: non si tratta più di un chatbot che produce testo malevolo, ma di un agente capace di compiere sequenze di azioni con una logica di esecuzione sempre più simile a quella di un attaccante cyber esperto.
Ma i casi di attacco individuati sono in aumento.
Il marketing della paura
È qui che la prudenza può trasformarsi in una sofisticata strategia di posizionamento. Più l’AI viene descritta come incomprensibile, autonoma e potenzialmente pericolosa, più acquistano valore economico e politico i pochi laboratori che possiedono modelli, infrastrutture, capitale e competenze per governarla.
La paura diventa così anche una barriera all’ingresso. Se controllare sistemi avanzati richiede enormi investimenti in calcolo, sicurezza, monitoraggio e ricerca, chi può realmente sostenere questi costi? Difficilmente una startup, un’università o un piccolo laboratorio europeo.
La regolazione della frontiera tecnologica rischia allora di produrre un effetto opposto a quello dichiarato: invece di limitare il potere dei grandi attori, può consolidarlo.
Chi decide i “valori umani”?
Ancora più politico è il concetto di “allineamento”. Per Pachocki un’AI correttamente allineata dovrebbe comportarsi con “onestà, integrità e amore per l’umanità”. Ma quali valori umani? Stabiliti da chi?
Un modello sviluppato da un’impresa privata statunitense non incorpora valori universali per definizione. Incorpora decisioni: dataset, sistemi di ricompensa, policy aziendali, vincoli legali, interessi commerciali e inevitabilmente il contesto politico e culturale nel quale viene costruito.
Presentare l’allineamento come un problema prevalentemente tecnico rischia quindi di nascondere la questione essenziale: chi possiede il potere di tradurre i valori in codice possiede anche una parte del potere di definirli.
Anche qui la critica di studiosi come Walter Quattrociocchi è utile: “Il rischio non è questa tecnologia in sé, ma il modo in cui l’interpretiamo”. I sistemi digitali non sono neutrali, ma ambienti che amplificano comportamenti (o creano chiusura cognitiva e polarizzazione come nel caso delle “echo chambers”), semplificano il conflitto e redistribuiscono attenzione e potere. L’AI non fa eccezione. Non basta chiedersi se una macchina “sia allineata”, bisogna domandarsi a quale ordine sociale contribuisca, quali asimmetrie rafforzi e quali forme di dipendenza renda più profonde.
Come ha spiegato Quattrociocchi, Professore ordinario di Informatica alla Sapienza Università di Roma, in una Lettera aperta alla società proprio su questi temi: “Stiamo iniziando a parlare di intelligenza artificiale come un tempo si parlava di magia, attribuendo intenzioni, coscienza e comprensione a sistemi che producono soprattutto correlazioni linguistiche estremamente sofisticate. Negli ultimi anni il dibattito pubblico sull’IA si è progressivamente spostato tra slogan, antropomorfismi e semplificazioni”.
Dalla “mente aliena” al potere reale
Il termine stesso “intelligenza artificiale” contribuisce alla narrazione. Pachocki parla di sistemi che perseguiranno obiettivi, collaboreranno, negozieranno, inganneranno o ricatteranno gli esseri umani. È un linguaggio che antropomorfizza la macchina e sposta l’attenzione dal sistema industriale che la produce alla creatura tecnologica che ne emerge.
La “mente aliena” diventa protagonista. Sullo sfondo scompaiono invece data center, chip, energia, cloud, investimenti miliardari e concentrazione del mercato.
Ed è forse questa la questione che il saggio di Pachocki lascia maggiormente irrisolta. OpenAI sostiene che bisogna impedire un’eccessiva concentrazione del potere, preservare l’autonomia umana e mantenere il futuro nelle mani dell’umanità.
La soluzione al problema, però, è quella data al G7 francese di giugno scorso, in fondo sempre la stessa: consegnare questo potere nelle mani delle Big Tech stesse e del Governo degli Stati Uniti.
Ma chi controllerà chi controlla l’AI?
Perché quando uno dei protagonisti della corsa tecnologica avverte il mondo che la tecnologia sta diventando troppo potente e contemporaneamente si propone come uno degli attori indispensabili per renderla sicura, la questione non riguarda più soltanto l’intelligenza artificiale. Riguarda infatti il potere.
L’AI è un’attività computazionale, non una mente. Non ha autonomia. Non può avere intenzioni. Come ogni attività computazionale, prende input, elabora e produce output. I cervelli non sono così e non “calcolano”; sono nel mondo e hanno intenzioni. I cervelli sono autonomi. Non è un alieno, è uno strumento incredibilmente utile nelle mani di poche grandissime aziende tecnologiche, con un valore di mercato impressionante, in grado di orientare il futuro sociale, politico ed economico di nazioni e interi continenti.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
