Deepfake: cosa sono e come riconoscerli?

I Deepfake si riferiscono comunemente a vari tipi di dati sintetici generati dal computer, che coinvolgono le persone e sono realizzati con reti neurali profonde. Può trattarsi di video, foto o registrazioni vocali. L’uso del deep learning, al posto delle tradizionali tecniche di editing delle immagini, riduce drasticamente lo sforzo e l’abilità necessari per creare un falso convincente, spiegano gli esperti di Kaspersky. Secondo alcune stime, il 96% di tutti i Deepfake è pornografico, evidenziando le preoccupazioni legate all’uso dei Deepfake per abusi, estorsioni e casi di pubblica umiliazione. Per questo, Google ha bandito gli algoritmi di Deepfake da Google Colaboratory, il servizio di calcolo gratuito con accesso alle GPU.

Una tecnologia al servizio del cybercrimine?

Diversi stati americani hanno leggi che li regolamentano, il progetto di legge cinese richiede l’identificazione dei dati generati al computer e il futuro regolamento UE sull’AI potrebbe includere una clausola su questa particolare tecnologia. In origine, il termine Deepfake si riferiva a un software che aveva guadagnato popolarità su Reddit, in grado di sostituire il volto di una persona all’interno di un video, e veniva utilizzato per creare porno non consensuali di alcune celebrità. Questa tecnologia potrebbe anche aiutare i criminali informatici. Gli algoritmi commerciali di rilevamento della vivacità, utilizzati dalle istituzioni finanziarie nelle procedure KYC, potrebbero essere ingannati da Deepfake creati a partire da fototessere, creando nuovi vettori di attacco e rendendo i documenti d’identità trapelati un problema ancora più grave.

Generare avatar realistici nel metaverso

Di fatto i Deepfake minano la fiducia degli utenti rispetto ai contenuti audio e video, in quanto potrebbero essere utilizzati per scopi malevoli. E diversi esperti e istituzioni, come Europol, avvertono che la crescente disponibilità di Deepfake può portare a un’ulteriore proliferazione della disinformazione su Internet. Ovviamente non esistono solo aspetti negativi. La CGI (computer-generated imagery) esiste da decenni, e viene utilizzata in diverse occasioni. Ad esempio, un algoritmo Deepfake è stato utilizzato anche per creare una serie virale su TikTok con protagonista un finto Tom Cruise. E alcune startup stanno cercando nuovi modi per utilizzare la tecnologia, ad esempio per generare avatar realistici nel metaverso.

Come riconoscerli?

I Deepfake potrebbero quindi essere difficili da riconoscere. Quelli utilizzati per le truffe tendono ancora a essere di bassa qualità, e possono essere individuati notando movimenti innaturali delle labbra, capelli non propriamente realistici, forme del viso non corrispondenti, battito di ciglia scarso o assente, e così via. Anche gli errori nella resa dei vestiti, o una mano che passa sul viso, possono rivelare un Deepfake amatoriale. Nel caso in cui un personaggio famoso o pubblico faccia affermazioni azzardate o offerte troppo belle per essere vere, anche se il video risultasse convincente, meglio fare un controllo incrociato delle informazioni, consultando fonti attendibili. Ma i truffatori possono intenzionalmente codificare i video per nascondere i difetti dei Deepfake creati, per cui osservare il video alla ricerca di indizi potrebbe non essere la strategia migliore.