Nel 2017 appare per la prima volta il termine deepfake, un neologismo nato dalla fusione dei termini “fake” (falso) e “deep learning”, ad indicare una tecnologia capace di generare immagini in movimento del tutto verosimili e corredate di audio, a partire da immagini reali e da un repertorio audio e video. Prerequisito per poter sviluppare un deepfake di qualità è possedere un numero elevato di immagini della persona che si vuole “falsificare” e possedere o un video “nuovo” su cui montarle o uno da modificare. Il software, elaborando le immagini del soggetto e le sue varie espressioni facciali e posturali è in grado di introdurre in un video il volto dello stesso e di ricomporne accuratamente le sembianze e le movenze facciali, facendogli ovviamente pronunciare le parole o fare i movimenti che si preferisce.
Questa tecnologia, basata sull’intelligenza artificiale e sull’apprendimento automatico conosciuto come GANs – Generative Adversarial Networks; produce, quindi, falsi digitali (immagini, video, audio) di altissimo livello di persone che vengono inserite in un luogo dove non sono state e che dicono cose che non hanno mai detto. L’ultimo deepfake eclatante in ordine di tempo (inizio di marzo 2021) ha coinvolto Tom Cruise, con tre falsi video pubblicati su TikTok, poi rimossi.
Il deepfake nasce su Reddit un social network di intrattenimento, poco conosciuto in Italia, ma molto sfruttato negli Stati Uniti dove i video falsi hanno iniziato a diffondersi come attività ricreativa: nei primi video deepfake venivano sostituiti i volti di attori con quelli di altre persone del mondo dello spettacolo dando vita a clip divertenti. Successivamente la tecnologia deepfake è stata ampiamente applicata nella pornografia tanto che a settembre 2019, il 96% dei video falsi online erano a sfondo sessuale (fonte, la startup statunitense Deeptrace): sono stati aperti siti web dedicati specificamente alla pornografia deepfake o deepnude, raccogliendo collettivamente centinaia di milioni di visualizzazioni. La pornografia deepfake è quasi sempre non consensuale, fatta di video espliciti in cui ai corpi vengono associati i volti di celebrità famose, ma anche di persone comuni, contatti personali alimentando di fatto il fenomeno del revenge porn, la pratica del sexting (cioè lo scambio e diffusione di immagini di nudo, che a volte coinvolge anche soggetti minori), fino ad arrivare alla pedopornografia.
La quantità di contenuti deepfake online sta crescendo ad un ritmo estremamente rapido. All’inizio del 2019 erano presenti sul web 7.964 video, solo nove mesi dopo, quella cifra era balzata a 14.678. La stima più recente parla di 145.227 video falsi: una crescita del 900% in due anni favorita anche dalla recente diffusione di App e software che rendono possibile realizzare deepfake, anche molto ben elaborati e sofisticati, utilizzando un comune smartphone. E con il crescere del numero di falsi digitali sono cresciuti anche i rischi connessi alla privacy, al furto d’identità e i pericoli di manipolazione dell’opinione pubblica legati alla diffusione di contenuti falsi.
Il regista e sceneggiatore statunitense Jordan Peele ha realizzato un video denuncia dei rischi connaturati alla tecnologia deepfake falsificando un video di Barack Obama che afferma cose mai pronunciate. Il video è molto realistico e verosimile tanto che è difficile distinguere il vero dal falso e apre inquietanti prospettive: l’utilizzo di falsi digitali contribuisce ad alimentare la diffidenza generalizzata, screditare anche i documenti-video autentici, centuplicare le possibili derive complottistiche.
I deepfake possono, per esempio, distorcere il discorso democratico; manipolare le elezioni erodendo la fiducia nelle istituzioni; pregiudicare la sicurezza pubblica; danneggiare sistematicamente la reputazione di persone note; istigare all’odio verso qualcuno, verso le minoranze, alimentare la diffusione di contenuti di odio on line.
L’assalto al Congresso Americano, inimmaginabile fino al 6 gennaio 2021, frutto della tossica combinazione di social network e fake news lancia un campanello d’allarme su tutte le nuove frontiere del fake che non si può ignorare.
Ne è ben consapevole l’Autorità Garante per la Protezione dei Dati Personali che sul sito istituzionale italiano ha pubblicato una scheda informativa sui rischi dell’uso malevolo di questa nuova tecnologia “ Deepfake Il falso che ti «ruba» la faccia (e la privacy)”
Il vademecum affronta tutti i pericoli legati ad un utilizzo sbagliato e in alcuni casi criminale dei falsi digitali: furto di identità, perdita del controllo delle proprie opinioni, diffusione di immagini/video intimi manipolati a scopo di ricatto e denigrazione, cyber bullismo, diffusione di contenuti e notizie falsi, istigazione all’odio, privazione dell’ “autodeterminazione informativa” (“ciò che voglio far sapere di me lo decido io”), messa in discussione della libertà decisionale (“quello che penso e faccio è una scelta su cui gli altri non possono interferire”), furto di informazioni attraverso falsificazione di identità o di dispositivo a scopo di inganno e trasmissione di dati – spoofing, phishing e ransomware.
Al tempo stesso il documento propone alcuni suggerimenti che ciascuno di noi può utilizzare per proteggersi dai deepfake:
- Evitare di diffondere in modo incontrollato immagini personali o dei propri cari
- Imparare a riconoscere un deepfake seppur molto difficile. L’immagine può apparire pixellata (cioè un pò “sgranata” o sfocata); gli occhi delle persone possono muoversi a volte in modo innaturale; la bocca può apparire deformata o troppo grande mentre la persona dice alcune cose; la luce e le ombre sul viso possono apparire anormali.
- Evitare di condividere un contenuto digitale si ha il dubbio che un video o un audio siano un deepfake realizzato all’insaputa dell’interessato.
- Rivolgersi ad autorità competenti: Polizia postale o al Garante per la protezione dei dati personali se si ritiene che il deepfake sia stato utilizzato in modo da compiere un reato o una violazione della privacy,
A livello dei grandi colossi del web, Facebook, ad esempio, ha istituito a fine 2019 la Deepfake Detection Challenge, un concorso per selezionare algoritmi di intelligenza artificiale efficaci per rilevare i video deepfake. Al termine del contest a giugno 2020, Facebook ha dichiarato di aver testato oltre 35.000 algoritmi, il migliore dei quali è risultato tuttavia accurato solo al 65%. Non un grandissimo risultato, se pensiamo che la tecnologia deepfake sta migliorando ad un ritmo mozzafiato. Gli esperti prevedono, infatti, che i deepfakes saranno indistinguibili dalle immagini reali tra non molto.
Su questo terreno sembra avverarsi, allora, l’enunciazione dello scrittore di fantascienza Jack Wodhams “la vecchia idea che le immagini non mentono, dovrà subire una drastica revisione”
A cura di Elisa Cionchetti
