I deepfake del volto e della voce: la nuova frontiera dei cybercriminali. A pagamento si può anche avere il deepfake del personaggio prescelto.

La manipolazione è una delle tecniche di distorsione della realtà probabilmente più antiche al mondo; ma oggi con l’avanzamento delle tecnologie e il ruolo pervasivo dei social media il suo uso sembra essere onnipresente, e quasi intrinseco della comunicazione dei nostri giorni.

Se qualche tempo fa abbiamo analizzato come le fake news possono incidere ed influenzare la vita pubblica e politica di un determinato paese, nell’articolo di oggi vi parlerò dei deepfake.

Cosa sono i deepfake

I deepfake sono immagini o video reali (perlopiù catturati da internet) che vengono modificati tramite l’uso dell’intelligenza artificiale. Una volta manipolati e rielaborati vengono inseriti in un altro contesto, assumendo così un significato totalmente diverso, e spesso diffamatorio. Tra i metodi di manipolazione più usati appare quello di incollare un volto sopra un altro volto e così far attribuire il discorso, o l’azione, di un personaggio ad un altro. Attenzione però: non si tratta di fotomontaggio, ma di video falsi iperrealistici che proprio per le loro qualità tecniche rasentano la perfezione.

Tale tecnica manipolatoria è stata usata in qualsiasi ambito: da quello pubblicitario, a quello politico (far dire a un politico ciò che vogliamo), e non per ultimo nel revenge porn, con una diffusione che cresce tanto da essere stato definito, già nel 2018, dal sito Mashable “l’ultima crisi morale di internet”, una crisi morale che ad oggi si è trasformata in moda, con tecniche di sintesi e dell’intelligenza artificiale che si perfezionano giorno dopo giorno. 

I personaggi politici sono i bersagli preferiti dei realizzatori di deepfake, e non ci vuole molto a capirne il motivo: una cosa pronunciata da un politico ha una fortissima risonanza e capacità influenzante. 

Uno dei casi di deepfake più eclatanti dell’ultimo periodo è sicuramente quello ai danni del presidente dell’Ucraina Zelensky. A marzo infatti in rete circolava un video in cui il presidente Zelensky esortava la popolazione ucraina ad arrendersi, chiedendo la fine del conflitto con una resa incondizionata; ovviamente si trattava di un deepfake prontamente rimosso dai social. 

I deepfake sono anche usati nel mondo pubblicitario sfruttando, ad esempio, senza autorizzazione il volto e il corpo di importanti star del cinema.

La risposta dell’Europa

Proprio per le loro implicazioni sociali e politiche, e la disinformazione che provocano, a riguardo dei deepfake e dell’AI a carattere manipolatorio, il 21 aprile 2021 la Commissione Europea si è espressa così: «Se un sistema di IA viene utilizzato per generare o manipolare immagini o contenuti audio o video che assomigliano notevolmente a contenuti autentici, dovrebbe essere previsto l’obbligo di rivelare che tali contenuti sono generati ricorrendo a mezzi automatizzati, fatte salve le eccezioni per finalità legittime (attività di contrasto, libertà di espressione)».

Da quello che si intende, quindi, l’Unione Europea potrebbe intervenire per monitorare i deepfake attraverso una possibile etichettatura che espliciti che ciò che è raffigurato nel video è falso. 

Comunque anche grazie al Digital Services Act (DSA) le Big Tech, e le società tecnologiche in generale, dovranno adottare misure per contrastare la disinformazione, e di conseguenza, anche i deepfake. 

I deepfake dai volti alle voci: l’evoluzione dell’intelligenza artificiale

Oltre la manipolazione dei volti e delle immagini, è divenuta di moda anche la manomissione e sostituzione dei file audio. Il sito FakeYou – Deep Fake Text to Speech, ad esempio, permette di creare frammenti audio con le voci di alcuni personaggi politici e famosi, e di aggiungere una voce a un video già in circolazione sul web.  Ovviamente anche in questo caso il rischio che si sfoci nella disinformazione e diffamazione è altissimo, per questo motivo il 12 ottobre il Garante privacy ha avviato un’istruttoria che indagherà sui «potenziali rischi che potrebbero determinarsi da un uso improprio di un dato personale, quale è appunto la voce». 

Ma i deepfake attirano anche coloro che da questa tecnologia vogliono guadagnarci, è il caso dei cybercriminali. Gli esperti di Resecurity hanno rivelato che i video deepfake potrebbero essere utilizzati per divulgare informazioni errate su criptovalute, ICO – Initial coin offering (Offerta di moneta iniziale), e ovviamente per truffare e arricchirsi comunicando notizie false o di carattere allarmante, e come abbiamo visto disinformare. 

Sempre il team di Resecurity ha infatti scoperto un servizio presente nell’underground e diffuso in Telegram chiamato “RealDeepFake” dove, a pagamento, si possono ottenere deepfake con i personaggi scelti a proprio piacimento e con il testo da inserire desiderato, per questo motivo anche la voce sarà adattata al personaggio selezionato.