Deepfakes, o i video generati dall'intelligenza artificiale che riprendono una persona in un video esistente e la sostituiscono con la somiglianza di qualcun altro, si stanno moltiplicando a un ritmo accelerato. Secondo la startup Deeptrace, il numero di deepfake sul web è aumentato del 330% da ottobre 2019 a giugno 2020, raggiungendo il picco di oltre 50,000. Questo è preoccupante non solo perché questi falsi potrebbero essere utilizzati per influenzare l'opinione pubblica durante un'elezione o coinvolgere una persona in un crimine, ma perché sono già stati abusati per generare materiale pornografico di attori e frodare una grande energia produttore.

Sebbene gran parte della discussione fino ad oggi sui deepfake si sia concentrata su social media, pornografia e frode, vale la pena notare che i deepfake rappresentano un minaccia alle persone ritratte in video manipolati e alla loro cerchia di fiducia. Di conseguenza, i deepfake rappresentano anche una minaccia esistenziale per le aziende, in particolare nei settori che dipendono dai media digitali per prendere decisioni importanti. L'FBI all'inizio di quest'anno avvertito che i deepfake sono una minaccia emergente critica rivolta alle aziende.

Per aiutare a promuovere la consapevolezza, attestato, una startup di autenticazione dei dati, ha intervistato i professionisti con sede negli Stati Uniti sulle minacce ai loro datori di lavoro relative a media digitali alterati o manipolati. Oltre 130 persone in vari settori hanno risposto al questionario, compresi quelli che lavorano nei settori IT, servizi dati, assistenza sanitaria e servizi finanziari.

Secondo Attestiv, oltre l'80% degli intervistati ha affermato che i media manipolati rappresentano un potenziale rischio per la propria organizzazione. Tuttavia, meno del 30% afferma di aver adottato misure per mitigare le ricadute di un attacco deepfake. Il 46% degli intervistati afferma di voler intraprendere un'azione, ma il XNUMX% afferma che la propria organizzazione non ha un piano o che personalmente non ne è a conoscenza.

Attestiv ha anche chiesto agli intervistati di considerare una possibile soluzione al loro potenziale problema di deepfake. Alla domanda "Qual è la migliore difesa che le organizzazioni possono adottare contro i media digitali alterati?", il 48% dei partecipanti al sondaggio ha ritenuto che la migliore difesa fosse il rilevamento automatizzato e le soluzioni di filtraggio. Il XNUMX% riteneva che la formazione dei dipendenti per rilevare i deepfake fosse una linea d'azione superiore.

"Formare i dipendenti per rilevare i deepfake potrebbe non essere una soluzione praticabile data la probabilità che stiano rapidamente diventando non rilevabili all'ispezione umana", hanno scritto gli autori del rapporto Attestiv. "Sembra che potrebbe essere necessaria un'ulteriore formazione sulla minaccia del deepfake e sulla traiettoria che la tecnologia sta prendendo".

Strada impegnativa da percorrere

È probabile che la lotta contro i deepfake rimanga impegnativa, soprattutto perché le tecniche di generazione dei media continuano a migliorare. All'inizio di quest'anno, i filmati deepfake di Tom Cruise pubblicati su un account TikTok non verificato hanno accumulato 11 milioni di visualizzazioni sull'app e altri milioni su altre piattaforme. E una volta scansionato attraverso molti dei migliori strumenti di rilevamento dei deepfake disponibili pubblicamente, di scoperta evitata, secondo Vice.

Nel tentativo di combattere la diffusione dei deepfake, Facebook, insieme ad Amazon e Microsoft, tra gli altri, ha guidato la Deepfake Detection Challenge, conclusasi lo scorso giugno. Il lancio della sfida è avvenuto dopo l'uscita di un ampio corpus di deepfake visivi prodotto in collaborazione con Jigsaw, l'incubatore tecnologico interno di Google, che è stato incorporato in un benchmark reso disponibile gratuitamente ai ricercatori per lo sviluppo di sistemi di rilevamento video sintetico.

Più recentemente, Microsoft ha lanciato la propria soluzione per combattere i deepfake in Autenticatore video, uno strumento in grado di analizzare una foto o un video per fornire un punteggio per il livello di sicurezza che i media non sono stati manipolati artificialmente. L'azienda ha anche sviluppato una tecnologia integrata in Microsoft Azure che consente a un produttore di contenuti di aggiungere metadati a una parte di contenuto, nonché un lettore che controlla i metadati per far sapere alle persone che il contenuto è autentico.