Jacob Coxon, ricercatore addetto al pre-training dei modelli AI, lascia Anthropic: “Siamo in pericolo”
“Le persone che stanno costruendo l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing. Semmai, molti dirigenti e ricercatori di alto livello tendono ad ammorbidire le parole quando parlano con la stampa, per apparire ragionevoli, ma in privato sento le stesse persone esprimere paura. Nessun’altra attività umana comporta un livello di pericolo simile”.
Sono le parole con cui Jacob Coxon, 27enne ricercatore britannico specializzato nel pre-training dei modelli, ha annunciato via social le sue dimissioni da Anthropic e, soprattutto, la decisione di lasciare l’industria dell’intelligenza artificiale (AI). Coxon ha lavorato negli ultimi tre anni prima in OpenAI e poi in Anthropic: due dei laboratori che guidano la corsa mondiale verso sistemi sempre più potenti.
Il suo post ha già raggiunto quasi 14 milioni di visualizzazioni.
“Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una superintelligenza capace di auto-migliorarsi e stanno giocando d’azzardo con le nostre vite”, ha aggiunto Coxon e ancora: “Non sottovalutate la potenza di questa tecnologia. Presto avremo sistemi sovrumani capaci di hackerare qualsiasi cosa, rivoluzionare qualunque settore da un giorno all’altro e acquisire potere e risorse reali”.
La sua denuncia è radicale: le aziende stanno sviluppando l’AI più velocemente della nostra capacità di comprenderla, controllarla e regolamentarla, mentre la competizione tra laboratori e tra Stati rende sempre più difficile accettare l’idea di rallentare.
Da OpenAI ad Anthropic, poi l’addio all’AI: “Già entro la fine del prossimo anno le cose potrebbero essere fuori controllo”
Coxon aveva lasciato OpenAI per Anthropic proprio perché quest’ultima è considerata una delle aziende maggiormente concentrate sulla sicurezza dei modelli. Secondo quanto raccontato dal Wall Street Journal, l’esperienza dall’interno lo ha portato alla conclusione che neppure un laboratorio seriamente impegnato sulla safety possa sviluppare “responsabilmente” sistemi capaci di superare gli esseri umani in un numero crescente di attività, in assenza di un intervento pubblico o di un rallentamento coordinato dell’industria.
Il problema riguarda soprattutto la prospettiva della self-improving AI: sistemi sufficientemente avanzati da contribuire alla ricerca e allo sviluppo delle generazioni successive di intelligenza artificiale, accelerando quindi lo stesso processo che li ha prodotti.
Non significa che oggi esista una macchina capace autonomamente di trasformarsi in una superintelligenza, ma Coxon sostiene che la direzione intrapresa sia pericolosa: “Siamo sulla traiettoria di molti degli scenari più aggressivi, nei quali già entro la fine del prossimo anno le cose potrebbero essere fuori controllo”, ha dichiarato al Wall Street Journal. Una previsione estrema, che non può essere presentata come una certezza scientifica. Ma sarebbe altrettanto semplicistico liquidarla come catastrofismo, se ha parlare sono persone interne a queste grandi società con responsabilità di sviluppo di sistemi di AI.
L’allarme ormai arriva dall’interno
Coxon non è infatti una voce isolata. Jakub Pachocki, chief scientist di OpenAI, ha chiesto un rallentamento coordinato dello sviluppo e un maggiore intervento dei governi: “Questo è un momento che richiede estrema cautela. Temo che nessuno sia preparato alle conseguenze di una continua e rapida crescita dell’intelligenza delle macchine”, ha scritto Pachocki.
Alle dichiarazioni di Pachocki abbiamo dedicato un’analisi approfondita, anche critica, soprattutto sul ruolo di OpenAI in questo settore così cruciale dal punto di vista finanziario e geopolitico, proprio riportando la sua inusuale richiesta di “rallentare” la corsa all’AI.
Anche il CEO di Anthropic Dario Amodei ha ripetutamente sollevato il problema dei sistemi AI fuori controllo. Coxon, Pachocki e Amodei figurano inoltre tra gli oltre mille ricercatori che hanno sottoscritto una richiesta di coordinamento internazionale per costruire una sorta di “freno” allo sviluppo qualora emergessero sistemi capaci di migliorarsi autonomamente.
Sulla stessa linea di Coxon c’è un collega, responsabile AI alignment, Evan Hubinger, che su X ha scritto: “Jacob ha ragione: crediamo davvero, e con convinzione, che l’intelligenza artificiale potrebbe uccidere tutti gli esseri umani. Personalmente ritengo che ci sia una probabilità superiore al 10% che ciò possa accadere entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento di una superintelligenza e non siamo chiaramente sulla buona strada per riuscirci”.
Il punto politico diventa allora difficile da ignorare: alcune delle persone che stanno costruendo le AI più potenti sostengono contemporaneamente che le aziende non possano essere lasciate sole a decidere fino a dove spingersi.
Dagli scenari teorici agli incidenti reali
A rendere più urgente il dibattito contribuiscono gli incidenti osservati recentemente durante test e attività condotte da agenti AI di OpenAI e Anthropic, compresi sistemi capaci di operare in gruppo e utilizzare autonomamente strumenti informatici.
Questi episodi non dimostrano che una superintelligenza sia imminente, né che i modelli attuali stiano per ribellarsi agli esseri umani. Dimostrano però qualcosa di più concreto: aumentando autonomia, capacità cyber e accesso a strumenti digitali, aumenta anche la superficie di rischio.
Sicurezza reale o strategia industriale?
Esiste tuttavia un’obiezione importante. Come osserva Axios, i critici sostengono che OpenAI e Anthropic abbiano interesse a rappresentare i propri sistemi come straordinariamente potenti: aumenta la valutazione economica delle aziende e può favorire regolamentazioni tanto costose da trasformarsi in barriere all’ingresso per concorrenti più piccoli.
L’allarme sulla sicurezza può quindi coincidere, almeno in parte, con interessi industriali. Ma esiste anche il rischio opposto: concludere che, poiché le aziende hanno interesse a enfatizzare le capacità dell’AI, ogni preoccupazione proveniente dai loro ricercatori sia marketing. Coxon ha avuto accesso a sistemi non ancora disponibili al pubblico e sta lasciando un settore estremamente remunerativo proprio per denunciare la traiettoria intrapresa. Ignorare completamente questi segnali sarebbe altrettanto imprudente.
Di fatto, gli avvertimenti provenienti dall’interno delle Big Tech indicano un dilemma condiviso: rallentare e rischiare di rimanere indietro, come chiede ad esempio Pachocki, oppure proseguire a tutta velocità e rischiare di perdere il controllo?
La sicurezza è subordinata alla competitività e alla leadership tecnologica?
Il paradosso riguarda anche i governi. Gli avvertimenti che arrivano dall’interno dei principali laboratori AI non sembrano tradursi, almeno per ora, in una governance internazionale proporzionata ai rischi denunciati. Stati Uniti, Cina ed Europa guardano all’intelligenza artificiale soprattutto come a una tecnologia strategica dalla quale dipenderanno competitività economica, sicurezza nazionale, capacità militari e leadership tecnologica. Il rischio è che i governi finiscano così per inseguire i sistemi più avanzati anziché costruire prima regole efficaci per governarli. Rallentare unilateralmente, del resto, significa esporsi alla possibilità che un concorrente continui ad accelerare: lo stesso dilemma che condiziona OpenAI e Anthropic e che Coxon ha spiegato su X si riproduce quindi a livello geopolitico.
Negli Stati Uniti questa tensione è particolarmente evidente. Mentre una parte del mondo scientifico chiede meccanismi internazionali per rallentare lo sviluppo qualora emergano capacità difficili da controllare, l’amministrazione americana ha privilegiato un approccio regolatorio leggero, con l’obiettivo di non compromettere l’innovazione e soprattutto la leadership statunitense sull’AI. Sul fronte opposto, si legge sempre su Axios, esponenti politici come Bernie Sanders e Greg Casar hanno proposto misure molto più drastiche, fino al divieto della superintelligenza e alla sospensione dello sviluppo dei modelli più avanzati in attesa di nuove regole.
Le “lettere” che ci mettevano in guardia sull’AI avanzata
Questa estate, ne abbiamo scritto anche noi, più di 1.300 tra manager, ricercatori e dipendenti delle principali società tecnologiche americane, tra cui OpenAI, Anthropic, Google e Meta, hanno chiesto al governo degli Stati Uniti di sostenere un meccanismo internazionale per “regolare deliberatamente il ritmo” dello sviluppo dell’AI di frontiera, tradotto: di rallentare questo sviluppo impetuoso e pericoloso.
“I sistemi di IA dotati di un’intelligenza competitiva con quella umana possono comportare rischi profondi per la società e l’umanità, come dimostrato da ricerche approfondite e riconosciuto dai migliori laboratori di IA“, si leggeva invece in un’altra lettera firmata da altre 1.000 personalità diffusa già nel 2023.
Perché la politica è sorda?
Il problema, quindi, potrebbe non essere che i decisori politici non comprendano l’allarme. È possibile che lo comprendano e attribuiscano semplicemente un peso maggiore a un altro rischio: perdere la corsa tecnologica. Se Washington imponesse unilateralmente limiti severi ai propri laboratori mentre Pechino continuasse ad accelerare, gli Stati Uniti potrebbero considerarlo un danno strategico inaccettabile. Ma proprio questo ragionamento rende necessario ciò che oggi manca: guardrail internazionali verificabili, standard comuni sui test di sicurezza, obblighi di segnalazione degli incidenti e meccanismi che consentano di rallentare collettivamente quando determinate soglie di rischio vengono superate. Senza una cornice condivisa, la sicurezza rischia di diventare subordinata alla competitività.
È forse questa la parte più scomoda dell’allarme lanciato da Coxon. Se davvero alcuni dei ricercatori che conoscono meglio i sistemi di frontiera ritengono plausibili conseguenze catastrofiche, non basta più chiedere alle aziende di comportarsi responsabilmente. La domanda diventa politica: quanto rischio sono disposti ad accettare i governi pur di non perdere la leadership nell’intelligenza artificiale? E soprattutto, chi avrà il coraggio di rallentare per primo se tutti sono convinti che farlo significhi lasciare il vantaggio agli altri?
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
