Email interne mostrano l'FBI spaventata dai deepfake.

Come menzionato in altri articoli, il potenziale utilizzo dei deepfake non si ferma a semplice, sebbene estremamente dannoso, revenge porn; bensì, viene oggi utilizzato per disinformazione e gravi minacce politiche e sociali.

Non è una novità che i malintenzionati utilizzino tecnologie e servizi di manipolazione dei contenuti, sfruttando a proprio piacimento foto e video catturati dall'account di un individuo sui social media - per creare immagini a tema sessuale che appaiano verosimili alla vittima, per poi farle circolare su social media, forum pubblici o siti web pornografici. Questo problema è profondamente reale e presente nella vita online di migliaia di persone.

"Abbiamo la capacità di rilevare i deepfake?" chiede in una mail del 2018 un funzionario dell'FBI della Operational Technology Division (OTD), che si occupa di questioni tecniche avanzate come gli strumenti di hacking.
"No", è stata la risposta di un altro funzionario della divisione.