Riesci a riconoscere un video manipolato digitalmente quando ne vedi uno? È più difficile di quanto la maggior parte delle persone realizzi. Man mano che la tecnologia per produrre "deepfake" realistici diventa più facilmente disponibile, distinguere i fatti dalla finzione diventerà solo più difficile. Un nuovo progetto di storytelling digitale del Center for Advanced Virtuality del MIT mira a educare il pubblico sul mondo dei deepfake con “In caso di disastro lunare. "

Questo sito provocatorio mostra un deepfake "completo" (audio e video manipolati) del presidente degli Stati Uniti Richard M. Nixon che pronuncia il vero discorso di emergenza scritto nel 1969 per uno scenario in cui l'equipaggio dell'Apollo 11 non è stato in grado di tornare dalla luna. Il team ha lavorato con un doppiatore e una società chiamata Respeecher per produrre il discorso sintetico utilizzando tecniche di deep learning. Hanno anche collaborato con la società Canny AI per utilizzare tecniche di sostituzione del dialogo video per studiare e replicare il movimento della bocca e delle labbra di Nixon. Attraverso queste sofisticate tecnologie di intelligenza artificiale e apprendimento automatico, il film di sette minuti mostra quanto possano essere convincenti i deepfake. 

"La disinformazione dei media è un fenomeno di lunga data, ma, esacerbata dalle tecnologie deepfake e dalla facilità di diffusione dei contenuti online, è diventata una questione cruciale del nostro tempo", afferma D. Fox Harrell, professore di media digitali e intelligenza artificiale al MIT e direttore del MIT Center for Advanced Virtuality, parte del MIT Open Learning. "Con questo progetto - e un curriculum del corso sulla disinformazione costruito attorno ad esso - il nostro potente e talentuoso Direttore Creativo di XR Francesca Panetta sta portando avanti uno degli obiettivi generali del centro: utilizzare l'IA e le tecnologie della virtualità per supportare l'espressione creativa e la verità".

Accanto al film, moondisaster.org presenta una serie di risorse interattive ed educative sui deepfake. Guidato da Panetta e Halsey Burgund, un membro del MIT Open Documentary Lab, un team interdisciplinare di artisti, giornalisti, registi, designer e informatici ha creato un solido sito interattivo di risorse in cui educatori e consumatori di media possono approfondire la loro comprensione dei deepfake: come sono fatti e come funzionano; il loro potenziale uso e uso improprio; cosa si sta facendo per combattere i deepfake; e risorse per l'insegnamento e l'apprendimento. 

"Questa storia alternativa mostra come le nuove tecnologie possono offuscare la verità intorno a noi, incoraggiando il nostro pubblico a pensare attentamente ai media che incontrano quotidianamente", afferma Panetta.

Fa parte del lancio anche un nuovo documentario, "To Make a Deepfake", un film di 30 minuti di Scientific American, che utilizza "In Event of Moon Disaster" come punto di partenza per spiegare la tecnologia alla base dei media generati dall'IA. Il documentario presenta eminenti studiosi e pensatori sullo stato dei deepfake, sulla posta in gioco per la diffusione della disinformazione e la distorsione della nostra realtà digitale e sul futuro della verità.

Il progetto è supportato dal MIT Open Documentary Lab e dalla Mozilla Foundation, che lo scorso anno ha assegnato a "In Event of Moon Disaster" un Creative Media Award. Questi premi fanno parte della missione di Mozilla di realizzare un'IA più affidabile nella tecnologia di consumo. L'ultima coorte di premiati usa l'arte e la difesa per esaminare l'effetto dell'IA sui media e sulla verità.

Afferma J. Bob Alotta, vicepresidente dei programmi globali di Mozilla: "L'intelligenza artificiale gioca un ruolo centrale nella tecnologia di consumo oggi: cura le nostre notizie, consiglia con chi incontriamo e ci indirizza con gli annunci. Una tecnologia così potente dovrebbe essere degna di fiducia, ma spesso non lo è. I Creative Media Awards di Mozilla attirano l'attenzione su questo aspetto e promuovono anche una maggiore privacy, trasparenza e benessere umano nell'IA". 

"In caso di disastro lunare" presentato in anteprima lo scorso autunno come installazione di arte fisica all'International Documentary Film Festival di Amsterdam, dove ha vinto il Premio Speciale della Giuria per lo Storytelling Digitale; è stato selezionato per il Tribeca Film Festival 2020 e Cannes XR. Il nuovo sito Web è il lancio digitale globale del progetto, rendendo il film e i materiali associati disponibili gratuitamente a tutto il pubblico.

Negli ultimi mesi il mondo si è spostato quasi interamente online: scuole, talk show, musei, campagne elettorali, visite mediche: tutti sono passati rapidamente al virtuale. Quando ogni interazione che abbiamo con il mondo è vista attraverso un filtro digitale, diventa più importante che mai imparare a distinguere tra media autentici e manipolati. 

"La nostra speranza è che questo progetto incoraggi il pubblico a capire che i media manipolati svolgono un ruolo significativo nel nostro panorama mediatico", afferma il co-direttore Burgund, "e che, con ulteriore comprensione e diligenza, possiamo tutti ridurre la probabilità di essere indebitamente influenzato da esso”.