Key4biz

Sora 2, il nuovo social stile TikTok divide i dipendenti di OpenAI: “Rischio deepfake”

Ieri abbiamo dato la notizia del lancio della nuova app di OpenAI dedicata al suo modello di generazione video Sora 2, con un’interfaccia che richiama da vicino l’esperienza di TikTok. L’app, autonoma da ChatGPT, presenta un feed di video verticali a scorrimento, con una particolarità: non si potranno caricare video reali, ma solo crearli da zero con il nuovo modello AI di OpenAI.

Sora 2: i ricercatori di OpenAI preoccupati

La notizia del lancio dell’app continua a far discutere all’interno della stessa comunità di ricercatori legati a OpenAI, tra attuali dipendenti ed ex collaboratori. Diversi ricercatori hanno espresso perplessità sull’app, che presenta un feed di video generati da AI e popolato da numerosi deepfake di Sam Altman.

John Hallman, membro del team pretraining, ha scritto su X: “I feed basati sull’AI fanno paura. Non nego di aver provato una certa preoccupazione quando ho scoperto che stavamo lanciando Sora 2. Detto ciò, penso che il team abbia fatto davvero il miglior lavoro possibile per creare un’esperienza positiva… Faremo del nostro meglio per assicurarci che l’AI aiuti e non danneggi l’umanità.” Boaz Barak, anche lui ricercatore OpenAI e docente ad Harvard, ha parlato di una “combinazione di preoccupazione ed entusiasmo”, lodando la qualità tecnica del prodotto ma avvertendo: “è prematuro congratularsi con noi stessi per aver evitato gli stessi errori di altre app social e dei deepfake.”

OpenAI sempre più lontano dal No Profit

Il cuore del dibattito non è solo tecnico o estetico, ma etico e strategico: Sora rappresenta un ulteriore passo verso la commercializzazione dell’AI, una scelta che solleva dubbi su quanto sia ancora coerente con la missione originaria dell’organizzazione, nata come laboratorio non-profit per lo sviluppo sicuro e benefico dell’intelligenza artificiale. Il lancio di Sora mette nuovamente sotto i riflettori la tensione interna a OpenAI: da una parte, un’azienda oggi tra le più influenti nel panorama tech globale; dall’altra, un’organizzazione fondata con uno statuto non-profit che prometteva di sviluppare AI avanzata per il bene comune.

Sam Altman ha affrontato la questione in un post su X: “Abbiamo principalmente bisogno del capitale per costruire AI che possa fare scienza, e di certo siamo focalizzati sull’AGI con quasi tutto il nostro sforzo di ricerca. È anche bello mostrare alle persone nuove tecnologie/prodotti interessanti lungo il percorso, farle sorridere, e — si spera — guadagnare un po’ di soldi, dato tutto il calcolo necessario.” Altman ha ricordato come anche il lancio di ChatGPT avesse sollevato dubbi simili. “La realtà è più sfumata quando si parla di traiettorie ottimali per un’azienda,” ha scritto. Intanto, l’attenzione dei regolatori aumenta. Il procuratore generale della California, Rob Bonta, ha dichiarato che seguirà con attenzione la ristrutturazione di OpenAI, sottolineando l’importanza che “la missione di sicurezza dichiarata come non-profit resti centrale.”

Sora 2 un prodotto per l’intrattenimento

A differenza di ChatGPT, pensato per essere uno strumento utile, Sora è dichiaratamente un prodotto per l’intrattenimento: un’app per creare e condividere brevi clip generate da AI, con un feed che ricorda TikTok o Instagram Reels. Non mancano, però, le somiglianze con le dinamiche problematiche dei social tradizionali: loop infiniti, contenuti virali, e meccanismi di engagement progettati per trattenere l’utente. OpenAI afferma di voler evitare questi problemi. In un post sul blog di lancio, ha dichiarato che Sora non sarà ottimizzata per il tempo trascorso sull’app, ma per la creazione di contenuti. Verranno inviati promemoria agli utenti che scorrono troppo a lungo, e il feed mostrerà principalmente contenuti di persone conosciute.

Secondo Miles Brundage, ex responsabile delle policy di OpenAI, potrebbero esserci buone e cattive applicazioni dei feed AI, come già accaduto con i chatbot. Eppure, il rischio che Sora segua le orme di altre piattaforme è reale. Altman stesso ha parlato, in un podcast di giugno, del “grande disallineamento” dei social media: “Uno dei grandi errori dell’era dei social media è stato che gli algoritmi dei feed hanno avuto molte conseguenze negative non intenzionali sulla società nel suo complesso, e forse anche sugli utenti singoli.”

Un AI al servizio dell’umanità o del puro profitto?

Nel frattempo, gli utenti hanno già notato elementi familiari delle logiche da “scroll infinito”: ad esempio, le emoji dinamiche che appaiono dopo ogni “mi piace”, chiaramente progettate per stimolare picchi di dopamina e aumentare l’engagement.

Con Sora, OpenAI apre un nuovo fronte: quello dell’intrattenimento guidato dall’AI. Il successo dell’app — e il modo in cui evolverà — sarà un test importante per l’azienda. Il rischio non è solo quello di creare l’ennesima app coinvolgente. È quello, più profondo, di perdere di vista l’obiettivo originario: costruire un’intelligenza artificiale al servizio dell’umanità — e non del puro profitto.

Exit mobile version