Anthropic chiede ai principali attori dell’intelligenza artificiale di dotarsi di un freno comune. Non una pausa generica allo sviluppo dell’AI, ma un meccanismo coordinato per rallentare o sospendere temporaneamente i modelli più avanzati quando i rischi superano la capacità di governi, aziende e società di gestirli.
La società guidata da Dario Amodei sostiene che il problema non sia più solo la potenza dei modelli, ma la velocità con cui questi sistemi stanno entrando nello stesso processo di sviluppo dell’intelligenza artificiale. Il nodo è l’automiglioramento: modelli capaci di contribuire alla scrittura del codice, alla ricerca e alla progettazione delle versioni successive.
“Pensiamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale avanzata, in modo da permettere alla società di stare al passo con il progresso tecnologico”, ha scritto ieri Anthropic in un post sul suo blog.
Il coordinamento globale tra i leader dell’AI
L’idea di Anthropic è costruire un sistema che consenta ai principali sviluppatori di AI avanzata di rallentare, o fermare per un periodo limitato, determinate linee di sviluppo quando i rischi diventano troppo elevati.
Il punto riguarda soprattutto i modelli di frontiera, cioè i sistemi più potenti e più costosi, capaci di produrre effetti rilevanti su ricerca scientifica, cybersecurity, automazione, lavoro, difesa e sicurezza nazionale.
La società avverte che, in assenza di un coordinamento, nessun attore avrà un reale incentivo a fermarsi. Chi rallenta rischia di essere superato da chi continua. È il classico problema della corsa tecnologica: tutti vedono i rischi, ma nessuno vuole perdere il vantaggio competitivo.
Il rischio dell’auto-miglioramento: il codice di Claude sarà scritto da Claude stesso al 100% entro due anni
Anthropic richiama in particolare il rischio che i sistemi AI diventino sempre più capaci di contribuire al proprio sviluppo. Non si parla ancora di un’intelligenza artificiale completamente autonoma, ma di modelli che scrivono codice, migliorano strumenti, assistono i ricercatori e accelerano il ciclo di sviluppo delle versioni successive.
Il cofondatore Jack Clark ha spiegato alla BBC che Claude viene già sviluppato con un codice di cui circa l’80% è scritto dal sistema stesso. Secondo Clark, arrivare al 100% entro due anni è possibile e avrebbe implicazioni enormi.
Il punto è il passaggio da AI usata come strumento di supporto ad AI che diventa parte sempre più centrale della produzione di nuova AI. Per Anthropic, questa dinamica rende necessario dotarsi di un freno, non solo di un acceleratore.
Clark ha sintetizzato il problema così: oggi “il settore dell’AI ha solo un pedale dell’acceleratore, ma non quello del freno”.
Anche il Papa invita a mettere un “freno” all’AI
La richiesta di un freno all’AI avanzata arriva mentre anche Papa Leone XIV, nella sua prima enciclica Magnifica Humanitas, ha indicato la necessità di rallentare quando la tecnologia corre più della capacità politica e sociale di governarla.
“Non basta invocare genericamente l’etica”, scrive il Pontefice: servono “quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti e una politica che non abdichi al proprio compito”.
Il Papa chiarisce che chiedere “prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’AI” non significa essere contro il progresso, ma esercitare “una cura responsabile verso la famiglia umana”.
Nel suo intervento ha usato anche una formula netta: “disarmare l’intelligenza artificiale”, cioè liberarla “dalle logiche di dominio, di esclusione e di morte”, soprattutto negli usi militari e nei sistemi che possono incidere sui diritti e sulla dignità delle persone.
Il vero nodo è questo: sicurezza o pressione economica?
La proposta di Anthropic non convince del tutto. Non è detto che il punto sia “fermare l’AI” per ragioni puramente etiche. Un meccanismo coordinato di pausa o rallentamento potrebbe anche ridurre la pressione competitiva tra i grandi player, evitare una corsa insostenibile agli investimenti e consolidare le posizioni di chi è già avanti.
La domanda è legittima: quanto pesa davvero la sicurezza e quanto pesa la sostenibilità economica della corsa all’AI? Le grandi aziende del settore continuano ad attirare capitali e a registrare valutazioni elevate, ma il modello industriale resta costoso. Servono infrastrutture enormi, capacità di calcolo crescente e data center sempre più energivori. I ricavi aumentano, ma non è ancora chiaro se saranno sufficienti a sostenere nel lungo periodo il ritmo degli investimenti.
La resistenza negli Stati Uniti: Trump vuole far entrare il Governo in OpenAI
La proposta di Anthropic potrebbe incontrare forti resistenze negli Stati Uniti. Una parte del mondo politico e tecnologico americano considera qualsiasi rallentamento un rischio strategico, soprattutto nel confronto con la Cina. Per questo motivo l’amministrazione del presidente Donald Trump sta portando avanti colloqui riservati riguardanti con OpenAI per una possibile partecipazione del governo statunitense nel capitale della società guidata da Sam Altman, un’ipotesi discussa da oltre un anno secondo fonti citate da CNBC.
L’idea sarebbe stata presentata inizialmente da Altman nel 2025 e si collegherebbe alla proposta di creare un Public Wealth Fund, un fondo patrimoniale pubblico destinato a investire in attività di lungo periodo e a consentire ai cittadini di beneficiare direttamente della crescita economica generata dall’AI. Tra le opzioni valutate vi sarebbe la cessione di una quota azionaria di OpenAI al governo federale come contributo iniziale al fondo, anche se non sono stati definiti termini ufficiali e i dettagli restano soggetti a modifiche.
Articolo pubblicato il 6 giugno 2026: ultima modifica l’8 giugno 2026 alle 09:45
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
