In breve
- Deloitte, una delle principali società di consulenza e revisione contabile al mondo, ha accettato di rimborsare all’Australia parte di un contratto dopo che un suo report è stato contestato poiché conteneva errori dovuti all’uso di intelligenza artificiale generativa.
- La senatrice laburista Deborah O’Neill: “A questo punto conveniva abbonarsi direttamente a ChatGPT”
Australia: Deloitte restituirà 440mila dollari al governo, come rimborso parziale, dopo aver ammesso di aver utilizzato intelligenza artificiale generativa per redigere un rapporto che conteneva diversi errori.
Cosa è successo
Il Dipartimento per l’Occupazione e le Relazioni sul Lavoro (DEWR) aveva incaricato Deloitte, nel dicembre 2024, di revisionare il sistema informatico che gestisce le sanzioni per i beneficiari del welfare che non rispettano gli obblighi previsti.
Il report conclusivo aveva segnalato criticità strutturali: scarsa tracciabilità tra le regole operative e la legislazione di riferimento, “difetti di sistema” e un approccio “guidato da presupposti punitivi” nei confronti dei partecipanti.
Pubblicato il 4 luglio, il documento è stato poi rimosso e ricaricato dopo che l’Australian Financial Review aveva scoperto la presenza di riferimenti inventati e citazioni inesistenti.
“Allucinazioni” da AI generativa
Secondo quanto riporta il The Guardian, Christopher Rudge, accademico dell’Università di Sydney, è stato il primo a individuare gli errori. Ha parlato di “allucinazioni” tipiche dei modelli di AI, che tendono a colmare vuoti informativi o inventare dati.
“Invece di sostituire un riferimento falso con uno reale, ne hanno aggiunti diversi inventati”, ha spiegato Rudge. “Ciò dimostra che alcune affermazioni del report non si basavano su fonti verificabili.”
Nella versione aggiornata, Deloitte ha inserito un’esplicita nota sull’uso di OpenAI GPT-4o, chiarendo che parte del lavoro è stata svolta con una catena di strumenti basata sul modello linguistico fornito da OpenAI e concesso in licenza al DEWR. Tuttavia, la società ha negato che l’AI sia responsabile degli errori e ha ribadito che le conclusioni “restano valide e invariate”.
La senatrice laburista: “A questo punto conveniva abbonarsi direttamente a ChatGPT”
“Sembra che Deloitte abbia un problema di intelligenza umana”, ha commentato la senatrice laburista Deborah O’Neill, presidente della Commissione parlamentare congiunta su società e servizi finanziari (Parliamentary Joint Committee on Corporations and Financial Services).
O’Neill ha poi invitato le istituzioni a pretendere maggiore trasparenza sui processi interni dei consulenti: “Chi affida incarichi a queste società dovrebbe chiedere chi effettivamente svolge il lavoro e verificare che non venga delegato a un algoritmo. Forse, a questo punto, conviene abbonarsi direttamente a ChatGPT.”
L’AI darà il colpo di grazia alla consulenza tradizionale?
Il caso, sottolinea il quotidiano britannico, solleva una questione più ampia: fino a che punto le grandi società di consulenza fanno ricorso all’AI generativa nei contratti pubblici? Deloitte ha assicurato che “la questione è stata risolta direttamente con il cliente”. Ma l’episodio, in piena era di automazione e intelligenza artificiale, mostra quanto sia sottile la linea tra efficienza tecnologica e perdita di controllo umano nella produzione di contenuti complessi, anche quando si tratta di rapporti destinati ai governi.
Per anni, Accenture, Deloitte e gli altri big hanno costruito il proprio valore sull’intermediazione: tradurre la complessità tecnologica in strategie gestibili. Ma quando la tecnologia diventa trasparente, accessibile e integrata, quella mediazione perde peso.
