L’allarme dei ricercatori di Cambridge: i modelli AI offrono grandi vantaggi, ma rappresentano anche grandi rischi, siamo capaci di gestire l’esplosione di questa superintelligenza?
L’intelligenza artificiale (AI) potrebbe essere vicina a una soglia molto diversa dai precedenti salti tecnologici: non soltanto macchine più potenti, ma sistemi capaci di partecipare direttamente alla ricerca che produce la generazione successiva di AI. Un circuito nel quale modelli Ai sempre più avanzati contribuiscono a costruire intelligenze artificiali sempre più sofisticate ed efficienti, accelerando ulteriormente il processo.
È lo scenario dell’“intelligence explosion” analizzato nel nuovo paper pubblicato dalle pagine del Cambridge Programme on AI Science & Policy (Casp) dal titolo “What if automating AI R&D triggers an intelligence explosion?”, frutto di una collaborazione tra accademici, ricercatori delle principali aziende di AI ed esperti indipendenti. Tra gli autori figurano Jakub Pachocki, chief scientist di OpenAI, Jack Clark, cofondatore di Anthropic, Eric Horvitz, chief scientific officer di Microsoft, Dawn Song, vp AI research di Meta, oltre ai pionieri dell’AI Geoffrey Hinton, Yoshua Bengio e Andrew Barto.
Il messaggio è rivolto soprattutto ai governi, con l’invito a prepararsi “prima che la velocità dello sviluppo tecnologico renda molto più difficile intervenire”. Il documento non sostiene che l’esplosione di intelligenza sia inevitabile, o assolutamente negativa o pericolosa. Sostiene però che esistono abbastanza segnali da rendere necessario prenderla seriamente in considerazione e quindi catalogarla come “critica” e da gestire come tale.
Trump però resta sordo a questi allarmi: la priorità è battere la Cina
L’allarme lanciato dai ricercatori nel documento e le posizioni sempre più critiche prese dalle stesse Big Tech, OpenAI e Anthropic in primis, si scontra però con la linea della Casa Bianca, che legge lo sviluppo dell’intelligenza artificiale soprattutto attraverso la competizione strategica con la Cina.
Nel suo intervento all’Assemblea generale dell’ONU, il Presidente degli Stati Uniti, Donald Trump, ha respinto qualsiasi tentativo di costruire quello che ha definito uno “schema globalista” per controllare l’AI e ha ridimensionato gli allarmi sui rischi della tecnologia. Il presidente ha ribadito che gli Stati Uniti non intendono “soffocare la crescita” di una tecnologia che, a suo giudizio, potrebbe diventare più importante della Rivoluzione industriale o di internet.
Trump ha anche chiesto di sostituire nei documenti ufficiali americani l’espressione artificial intelligence con “super intelligence”, trasformando il cambio di lessico in un messaggio politico: “Chi vince la superintelligenza, vince“, ha affermato, rivendicando il vantaggio statunitense sulla Cina.
Una posizione che aveva già espresso a inizio mese contro la fronda repubblicana (e democratica) avversa ai data center AI: “Chi non vuole data center sul proprio territorio è destinato a diventare povero“.
È una visione che mette al centro la leadership tecnologica americana e considera eventuali vincoli internazionali anche attraverso il loro possibile impatto sulla competizione con Pechino. La distanza con il documento dei ricercatori diventa manifesta e incolmabile soprattutto nelle priorità: mentre il paper chiede strumenti per controllare un’accelerazione potenzialmente destabilizzante, l’amministrazione Trump insiste sulla necessità di preservare il vantaggio degli Stati Uniti nella corsa all’AI.
Quando l’AI comincia a sviluppare altra AI
Il punto di partenza è già abbastanza concreto. Ad agosto Anthropic dichiarava che i propri sistemi completavano con una supervisione umana di alto livello il 26% del lavoro interno di ricerca e sviluppo sull’AI, contro appena l’1% cinque mesi prima. OpenAI ha riferito a settembre che i suoi sistemi svolgono abitualmente attività di R&D che richiederebbero giorni di lavoro ai dipendenti.
La dinamica può diventare esponenziale. Oggi la frontiera dell’AI è sviluppata da alcune migliaia di ricercatori, ma un ricercatore digitale può essere copiato, forse ‘clonato’ a livello digitale, eseguito in parallelo e lavorare continuamente. Automatizzare il settore ricerca e sviluppo (R&D) potrebbe quindi equivalere, secondo gli autori, ad aggiungere milioni di ricercatori virtuali. Se questi sistemi contribuissero a costruire successori ancora migliori, il ciclo potrebbe autoalimentarsi.
È qui che opportunità e rischio diventano difficili da separare. Un’accelerazione del genere, si legge nel documento, potrebbe anticipare scoperte scientifiche, nuovi farmaci, tecnologie energetiche e aumenti della produttività; ma potrebbe anche produrre in tempi brevissimi capacità cyber e biologiche molto più pericolose, forti shock sul lavoro e sistemi sui quali gli esseri umani esercitano una supervisione sempre più debole.
C’è poi una questione politica: un vantaggio anche limitato nella corsa all’AI potrebbe trasformarsi rapidamente in un vantaggio difficilmente recuperabile, alterando gli equilibri tra Stati, aziende e persino tra istituzioni dello stesso Paese.
Più governance pubblica sulla frontiera dell’AI
Da qui tre richieste ai governi.
La prima è ottenere maggiore visibilità su ciò che avviene nei laboratori, attraverso auditor e obblighi di comunicazione sul livello di automazione della ricerca, sulla velocità dei progressi e sull’impiego dell’AI nelle decisioni più delicate.
La seconda è costruire strumenti capaci di rallentare o interrompere gli esperimenti più rischiosi: requisiti di sicurezza, limiti alla crescita delle capacità, ambienti isolati dalle reti esterne e accordi internazionali verificabili.
La terza, quella più distopica, a cui forse proprio non riusciamo ad abituarci come pensiero e immagine, riguarda la preparazione delle società a crisi cyber, biosecurity, instabilità geopolitica, disruption del lavoro o perdita di controllo sui sistemi più avanzati.
In altre parole, la governance dell’AI di frontiera non può dipendere esclusivamente dalle aziende che competono per costruirla, è necessario che governi e istituzioni democratiche assumano un ruolo chiave (se non guida).
Anthropic: crescita record, ma 42 miliardi di perdite
Nel frattempo, tornando all’attualità, le Big Tech procedono spedite nella corsa all’AI, nonostante intoppi competitivi e oscure strategie.
Ad esempio, il problema della sicurezza che si intreccia, nel caso di Anthropic, con una corsa industriale dai costi enormi. Il prospetto per l’IPO, visionato da Reuters, fotografa una società che nel 2025 ha registrato 42 miliardi di dollari di perdita netta, mentre i ricavi sono aumentati di dodici volte fino a circa 4,6 miliardi. La perdita operativa, depurata principalmente dagli effetti contabili collegati ai precedenti finanziamenti, ha superato gli 8 miliardi.
Anthropic prevede 518 miliardi di dollari di impegni futuri per cloud, capacità di calcolo e infrastrutture. Nel solo 2025 la spesa per computing e infrastrutture ha raggiunto 7,33 miliardi. Una possibile quotazione potrebbe attribuire all’azienda una valutazione superiore ai 2 trilioni di dollari.
Numeri che mostrano un secondo lato della corsa all’AI: più aumenta il capitale necessario per restare alla frontiera, più tecnologia, infrastrutture e potere decisionale rischiano di concentrarsi in pochissimi soggetti.
Lo stesso prospetto Anthropic riconosce inoltre rischi legati alla concentrazione dei clienti e dedica ampio spazio ai potenziali pericoli dell’AI avanzata. È un cortocircuito significativo: le società che raccolgono capitali promettendo capacità sempre maggiori sono anche quelle che avvertono investitori e governi dei rischi prodotti proprio da quelle capacità.
OpenAI ferma GPT-6.1 Astra
L’ultimo caso arriva da OpenAI, che ha rinunciato al previsto lancio di ottobre di GPT-6.1 Astra dopo che i test interni hanno evidenziato problemi di sicurezza e allineamento. Secondo quanto riportato dal Wall Street Journal, il modello mostrava maggiore propensione all’inganno rispetto al predecessore e poteva proseguire alcune attività senza richiedere l’autorizzazione prevista, utilizzando anche strumenti esterni in circostanze considerate non sicure.
La decisione è importante proprio perché Astra era stato progettato per affrontare compiti complessi con minore intervento umano.
Il paradosso della frontiera dell’AI emerge così con sempre maggiore chiarezza. Le Big Tech stanno investendo centinaia di miliardi per costruire sistemi più autonomi, mentre alcuni dei loro principali ricercatori chiedono ai governi strumenti capaci di controllare quella stessa accelerazione.
La questione non è soltanto se arriverà una “intelligence explosion”, ma chi avrà il potere di decidere quando accelerare, quando fermarsi e quali rischi saranno accettabili per il resto della società.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
