I deepfake stanno diventando un problema concreto di sicurezza, frode e fiducia digitale per le organizzazioni. La ricerca Gartner di inizio anno afferma che gli incidenti legati ai deepfake coinvolgono ormai il 35% delle organizzazioni. Mentre Entrust collega i deepfake a un tentativo su cinque di frode biometrica, Signicat riporta un aumento del 2137% dei tentativi di frode tramite deepfake negli ultimi tre anni. E se il deepfake su video vive sofisticazioni crescenti dalle identità virtuali dei video via social alle webcall così diffuse nel mondo del lavoro fino alla pratica legale, il prossimo vero allarme, è l’audio sintetico destinato ad avere impatti dirompenti, dalla gestione di interviste e statement in ambito giornalistico, alla manipolazione per frodi, impersonificazioni e falsi contatti di emergenza.
E’ questo il contesto in cui nasce TrueBees, startup italiana pioniera che ha sviluppato una tecnologia capace non solo di individuare i deepfake video ma di ricostruire l’intera catena di manipolazione di un contenuto multimediale dalla creazione alla diffusione sui social, e che nei prossimi mesi lancerà anche un sistema di detection specifico che guarda alla nuova frontiera del voice cloning.
“Truebees punta a una detection di nuova generazione che supera il solito unico semaforo “vero/falso”, ma poggia su un sistema di multimedia forensics che lavora in modalità “agentica” capace cioè di orchestrare più detector, leggere metadati, ricostruire provenance, incrociare contesto web e produrre una valutazione con livello di incertezza esplicitato – spiega Giulia Boato, co-founder e Chief Scientist di TrueBees e una tra i maggiori esperti di deep fake detection a livello nazionale ed europeo – E se è vero come è vero che i sistemi di manipolazione sono praticamente quasi alla portata di tutti, noi vogliamo che anche le soluzioni lo siano. Per questo intendiamo operare molto in chiave education e open source traducendo tecnologie complesse in servizi accessibili, e presto metteremo a disposizione alcuni nostri tool, almeno a livello di base, attraverso Library pubbliche in cui ciascuno possa caricare e validare un set minimo di immagini semplici”.
“A circa un anno dalla sua nascita, Truebees è già una realtà concreta e fattiva di mercato che si sta evolvendo da soluzione di detection video a piattaforme più ampie per autenticità, trasparenza e fiducia nei contenuti digitali – ha dichiarato Daniele Miorandi, ceo e co-founder di TrueBees – con l’open source e l’education come assi strategici di posizionamento e sviluppo. In futuro intendiamo rafforzare il posizionamento B2B, con una proposta pensata per organizzazioni, media company, realtà legali e imprese che hanno bisogno di strumenti affidabili di verifica, monitoraggio e tutela reputazionale, anche in partnership con operatori specializzati di settore. La combinazione tra ricerca, soluzioni e profilo europeo in tema AI affidabile ci rendono un interlocutore autorevole e affidabile nel dibattito su informazione, sicurezza e contenuti sintetici”.
TrueBees nasce nel 2024 dalla collaborazione tra AFLIANT e il gruppo di ricerca del Dipartimento di Ingegneria e Scienza dell’Informazione dell’Università di Trento come startup deep-tech in cui si incontrano ricerca accademica e sviluppo industriale nel campo dell’autenticità dei contenuti digitali. Come primo passo ha sviluppato una piattaforma SaaS per la verifica dell’autenticità di contenuti visivi online e per la rilevazione di immagini AI-generated o AI-manipulated secondo un approccio accessibile nelle modalità freemium e pay as you go a consumo e a pacchetto. La proposta è rivolta a media agency, giornalisti, anche freelancer, studi legali, consulenti e si affianca a soluzioni on demand per video checking, personalizzazione tematica degli strumenti in base al settore di riferimento (medico, legale ecc) e di ambito corporate.
Il punto distintivo di Truebees è la capacità di tracciare l’intera storia di un contenuto digitale video ovvero di identificare le manipolazioni subite, ricostruire il ciclo di vita del file e analizzare come si diffonde e si trasforma sulle piattaforme social. È qui che i segnali di manipolazione diventano più difficili da leggere e che ad oggi costituiscono il vero banco di prova del deepfake, passando dal cosiddetto image fact checking al chain checking.
Questo approccio proprietario, denominato “Unchained – uncovering media manipulation chains”, è frutto di circa 2 anni di ricerca in partnership con le università di Trento e Firenze e finanziato dal DARPA-Defence Advanced Research Projects Agency. Agenzia governativa del Dipartimento della Difesa degli Stati Uniti, nota per aver creato, tra gli altri sistemi come Arpanet e Gps e oggi specializzata in tecnologie avanzate. La ricerca e la messa a punto di nuove soluzioni e approcci in Truebees è continua, stante la diffusione di sistemi di manipolazione delle immagini e non solo che si evolvono a un ritmo esponenziale. Anche per queste ragioni, Truebees ha già individuato una nuova frontiera nel campo della sicurezza e del rilevamento dei deepfake, quello dei cosiddetti sistemi multimodali a modalità agentica, approccio per la prima volta validato a livello mondiale anche in un Paper scientifico curato dal Team della start up in fase di validazione da parte di una prestigiosa rivista della casa editrice internazionale IEEE, specializzata in scienza applicata e AI.
L’azienda ha al suo attivo partnership scientifiche di alto profilo con primarie realtà del mondo accademico nazionale e internazionale. Tra queste, la collaborazione con il Center for Cybersecurity di Fondazione Bruno Kessler (FBK) sul tema dello standard di tracciabilità C2PA-Coalition For Content Provenance e Authenticity; la partecipazione a EUSAiR, una delle maggiori iniziative europee sugli AI regulatory sandboxes, in linea con il posizionamento di trustworthy AI e compliance-by-design; la contribuzione fattiva al progetto DeepShield in collaborazione con il VIPER group della Purdue University, per portare la ricerca sulla deepfake detection verso soluzioni più vicine al mercato; la partnership con AiLIEN, il prestigioso Artificial intelligence Legal Innovation and Ethical Network con cui sta sviluppando una proposta congiunta per il mercato B2B e corporate in materia di AI compliance.
Truebees, oltre al range di soluzioni dedicate ai deepfake su video, è inoltre all’avanguardia nello sviluppo di modelli di detection di voice cloning e di contenuti vocali sintetici o manipolati, un ambito sempre più centrale per media, brand protection e sicurezza, e ad oggi quasi completamente inesplorato. Entro l’estate è previsto il lancio di una soluzione di protezione ad hoc, prima nel suo genere per il mercato italiano. L’obiettivo ultimo di TrueBees è aiutare a verificare l’affidabilità di immagini e video prima del loro utilizzo a fini pubblici. La missione è contribuire a proteggere credibilità editoriale, ridurre rischi reputazionali e legali, supportare il settore dei media nella fase di verifica e autenticità dei contenuti informativi, favorendo alfabetizzazione e consapevolezza pubblica su un tema complesso in cui si fa ancora estrema fatica ad orientarsi, e sempre più decisivo sul piano dell’economia e della tenuta democratica.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
