DeepFake: scopriamo cosa sono e come smascherarli

• Che cosa significa DeepFake?
• In che modo si è sviluppato?
• Programmi più comuni per la produzione di contenuti
• Come possiamo smascherarli?
  

I Deepfake sono foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce.

Che cosa significa DeepFake?

Deepfake è un termine che deriva dall’unione di “deep learning” e “fake” (falso). Si riferisce a una tecnica di manipolazione dei media che utilizza l’intelligenza artificiale, in particolare il machine learning e la generazione di reti neurali profonde (deep neural networks), per creare o modificare video, audio e immagini in modo da far sembrare che qualcosa sia avvenuto realmente quando in realtà non è così.

Attraverso l’utilizzo di algoritmi avanzati, i deepfake possono sostituire il volto di una persona in un video con quello di un’altra, creare discorsi falsi o manipolare le espressioni facciali per far sembrare che qualcuno stia dicendo o facendo qualcosa che non ha mai fatto. L’obiettivo principale dei deepfake è quello di ingannare le persone, facendo sembrare che contenuti manipolati siano autentici.

Sebbene i Deepfake possano essere usati per scopi divertenti o creativi, c’è anche preoccupazione riguardo al loro uso potenziale per scopi malevoli, come la diffusione di informazioni false o l’uso per danneggiare la reputazione di qualcuno. La diffusione dei deepfake su piattaforme online e social media ha reso la loro rilevazione e gestione una sfida per gli esperti di sicurezza e per le aziende che cercano di prevenire l’abuso di questa tecnologia.

In che modo si è sviluppato?

Il deepfake ha fatto importanti progressi negli ultimi anni grazie ai rapidi sviluppi nell’intelligenza artificiale e nel machine learning. Ecco alcuni dei principali sviluppi che hanno contribuito alla sua evoluzione:

1. Miglioramento delle reti neurali profonde: Le reti neurali profonde, in particolare le generative adversarial networks (GANs), sono state fondamentali nello sviluppo dei deepfake. Le GANs consentono di generare contenuti realistici e convincenti, combinando un generatore che produce immagini fittizie e un discriminatore che valuta l’autenticità delle immagini. L’addestramento iterativo di queste reti ha portato a una maggiore qualità dei risultati finali.
2. Disponibilità di grandi set di dati: Il deepfake richiede un ampio set di dati di addestramento per apprendere le caratteristiche facciali e le espressioni di una persona. Negli ultimi anni, sono diventati disponibili grandi dataset di immagini e video, consentendo ai modelli di apprendere con maggiore precisione e producendo deepfake più realistici.
3. Miglioramento degli algoritmi di apprendimento automatico: Gli algoritmi di deep learning sono stati affinati e ottimizzati per ottenere risultati migliori. Ad esempio, sono state sviluppate tecniche come l’autoencoder variational e gli attention mechanisms per migliorare la qualità delle immagini generate.
4. Accessibilità degli strumenti: Negli ultimi anni, sono emersi strumenti e framework open source che semplificano la creazione di deepfake anche per persone con meno conoscenze tecniche. Questa maggiore accessibilità ha contribuito alla diffusione e alla popolarità del fenomeno.
5. Combattimento dei deepfake: Parallelamente all’evoluzione dei deepfake, sono state sviluppate anche tecniche per rilevarli e contrastarli. Gli esperti di sicurezza informatica e le aziende tecnologiche stanno lavorando per sviluppare algoritmi e strumenti di intelligenza artificiale in grado di identificare i deepfake e prevenirne la diffusione.

È importante sottolineare che il deepfake è una tecnologia in continua evoluzione e che gli sviluppi futuri potrebbero portare a ulteriori miglioramenti e sfide nel gestire i suoi effetti.

Programmi più comuni per la produzione di contenuti

Esistono diversi programmi e strumenti disponibili per creare deepfake, alcuni dei quali sono gratuiti e altri a pagamento. È importante notare che l’uso di tali strumenti può sollevare preoccupazioni etiche e legali, quindi è fondamentale fare un uso responsabile di queste tecnologie. Ecco alcuni esempi di software comunemente utilizzati per la produzione di deepfake:

1. DeepFaceLab: È un software open-source ampiamente utilizzato per la creazione di deepfake. Offre funzionalità avanzate come il face swapping e la manipolazione delle espressioni facciali. DeepFaceLab richiede una certa conoscenza tecnica per l’installazione e l’utilizzo.
2. Faceswap: Questo è un altro software open-source che consente di scambiare i volti tra due video o immagini. Offre una vasta gamma di opzioni di personalizzazione e l’interfaccia utente è relativamente accessibile rispetto ad altri strumenti.
3. FakeApp: È stato uno dei primi strumenti ampiamente utilizzati per la creazione di deepfake. Ha un’interfaccia intuitiva e consente di creare deepfake anche per utenti meno esperti. Tuttavia, è importante notare che FakeApp non è più attivamente supportato e potrebbe non funzionare correttamente con le ultime versioni del software.
4. Avatarify: È un’applicazione mobile che utilizza l’intelligenza artificiale per animare le immagini statiche dei volti utilizzando movimenti facciali tratti da video. Sebbene non sia specificamente progettato per creare deepfake, può essere utilizzato per scopi simili.

Come possiamo smascherarli?

Spesso alcuni video possono essere facilmente smascherati per la presenza di glitch (ossia dei salti nella riproduzione video di alcuni particolari), ma, col miglioramento dei software, tali effetti saranno sempre più rari. Quando si tratta di media manipolati dall’intelligenza artificiale, non esiste un singolo segno rivelatore di come individuare un falso. Tuttavia, ci sono diversi artefatti DeepFake che puoi cercare. 

Come? Prestando attenzione al viso, alle guance e alla fronte (la pelle appare troppo liscia o troppo rugosa? L’invecchiamento della pelle è simile all’invecchiamento dei capelli e degli occhi?) oppure agli occhi o alle sopracciglia. Inoltre, non meno importanti sono le labbra poichè alcuni movimenti si basano sulla sincronizzazione labiale ma è fondamentale cercare di individuare se sono naturali.

Il problema sta diventando sempre più diffuso e rilevante, la Commissione Europea ha varato delle linee guida sull’uso dell’Intelligenza Artificiale in cui viene data una definizione di deep fake (art. 52, comma 3) e viene richiamata la dovuta trasparenza nell’indicare video come falsi/manipolati.

In Italia, il Garante Privacy ha prodotto una scheda informativa per informare il grande pubblico e aumentarne la consapevolezza (in cui definisce deepnude i deep fake che riguardano falsi video di nudi), oltre a una pagina sul tema su cui sono riportati i vari provvedimenti (attualmente solo verso Telegram). L’uso irresponsabile di questa tecnologia può danneggiare la reputazione delle persone o diffondere informazioni false. Pertanto, è fondamentale utilizzare queste tecnologie con responsabilità e consapevolezza delle implicazioni che comportano.