Key4biz

Evitare la violenza, la grande sfida del metaverso agli account tossici

Evitare l’esplosione della violenza e delle molestie sessuali, è questa una delle principali sfide per i creatori del metaverso. I mondi virtuali sono impregnati di violenza e di aggressioni di ogni tipo. La messa insicurezza del metaverso si preannuncia quindi come una sfida davvero complessa. Lo scrive Le Figaro in un articolo approfondito sul fenomeno.

Lo sa bene Marc Zuckerberg, fondatore di Meta, che da primo giorno aveva preso sul serio la questione sicurezza, come un aspetto centrale nella costruzione del metaverso.

Ma le cose, in realtà, sono andate diversamente. Il metaverso, che secondo gli analisti potrebbe prefigurare il nuovo volto di Internet di qui al 2030, non è partito con il piede giusto.   

Avatar di donne aggredite

Diverse donne si sono lamentate di aver subito delle aggressioni maschili su Horizon Worlds, il metaverso di Meta. Gli avatar maschili mimavano atti sessuali, insultando gli avatar femminili e impedendo loro di fuggire. Una vera e propria molestia sessuale.

Una utente femminile ha detto al New York Times che il suo aggressore virtuale si è rifiutato di allontanarsi, alzando le spalle di fronte alle richieste, proprio perché si trovavano sul metaverso e quindi la violenza era soltanto virtuale.  

Insulti, minacce e razzismo

Insulti, razzismo, minacce, botte. L’associazione americana Center for Countering Digital Hate ha potuto verificare un centinaio di atti e gesti riprovevoli in una giornata di monitoraggio su Horizon Worlds, che ad oggi funziona soltanto negli Usa.

Altri utenti denunciano di subire insulti da ragazzini minorenni, che in teoria non potrebbero trovarsi lì visto che la piattaforma è vietata ai minori.

Il problema non riguarda certo soltanto la piattaforma di Meta. Situazioni analoghe si sono registrate sulla realtà virtuale VRChat dove si sono verificate delle orge virtuali e dove un adulto chiedeva con insistenza all’avatar di una ragazzina di togliersi i vestiti.

Secondo gli esperti, il mondo digitale può avere come effetto illusorio quello di sentirsi con il proprio avatar a contatto immediato con il proprio corpo. La tossicità online può avere un impatto con la sanità mentale delle persone tanto che prima o poi il metaverso non sarà più considerato come un gioco ma come un luogo reale.

Violenza danno per il business digitale

Meta è ben consapevole di questi rischi, tanto da considerare la violenza come una “minaccia esistenziale” al business nel lungo termine. Un danno non secondario, visto che la realizzazione del metaverso costa 10 miliardi all’anno a Meta fino al 2030.

E’ ovvio che la sicurezza degli spazi virtuale è fondamentale per le aziende che andranno su metaverso. E chi fornisce e gestisce le piattaforme dovrà garantirla per mantenere il business pubblicitario connesso.

E’ per questo che già esistono diverse funzioni per bloccare gli utenti nocivi e per inviare ai moderatori dei video e dei contenuti per denunciare i trasgressori.

Moderare il metaverso complicato

Moderare il metaverso non sarà certo una passeggiata. Se fino ad oggi la moderazione delle piattaforme si è limitata per lo più a contenuti scritti, nel metaverso bisognerà tenere conto anche della voce e dei gesti. Il che rende il compito del controllo più difficile. Ad esempio, bisognerà evitare lo stalking degli avatar femminili o le ‘toccatine’ virtuali. Senza pensare al turpiloquio, che non potrà certo essere bloccato in tempo reale ma soltanto in un secondo momento. Sono previste sanzioni, a partire dall’allontanamento degli account tossici.

La mancanza di una seria moderazione diventerà sempre più un fattore di business per determinare il successo di una piattaforma.

Exit mobile version