Centinaia di annunci sexy con il deepfake di Emma Watson sono circolati sui social Meta, nello specifico Facebook e Instagram, negli ultimi due giorni. L’annuncio fa parte di una massiccia campagna di questa settimana per un’applicazione deepfake, che consente agli utenti di scambiare qualsiasi volto in qualsiasi video di loro scelta.
I deepfake sono contenuti in cui i volti o i suoni vengono scambiati o manipolati. Sempre più spesso, la tecnologia è stata utilizzata per creare pornografia non consensuale con i volti di celebrità, influencer o qualsiasi persona, compresi i bambini.
La campagna pubblicitaria su Meta fa riferimento al fatto che questa tecnologia, un tempo avanzata, si è rapidamente diffusa in applicazioni per i consumatori facilmente reperibili e pubblicizzate nei principali siti Internet. Nonostante molte piattaforme vietino i contenuti deepfake manipolativi e dannosi, diverse applicazioni sono riuscite a passare inosservate.
Domenica e lunedì, un’applicazione per la creazione di video “DeepFake FaceSwap” ha diffuso più di 230 annunci sui servizi di Meta, tra cui Facebook, Instagram e Messenger, secondo un’analisi della libreria di annunci di Meta. Alcuni degli annunci mostravano quello che sembrava l’inizio di video pornografici con il noto suono della traccia introduttiva della piattaforma porno Pornhub. Dopo pochi secondi, i volti delle donne venivano scambiati con quelli di attrici famose.
Quando Lauren Barton, una studentessa di giornalismo del Tennessee, ha visto lo stesso annuncio su un’applicazione separata, è rimasta abbastanza scioccata da registrarlo e twittarlo, dove ha ricevuto oltre 10 milioni di visualizzazioni.
“Questo potrebbe essere usato con i liceali delle scuole pubbliche che sono vittime di bullismo“, ha detto Barton. “Potrebbe rovinare la vita di qualcuno. Potrebbe mettere nei guai il loro lavoro. È estremamente facile da realizzare e gratuito. Tutto quello che ho dovuto fare è stato caricare una foto del mio volto e ho avuto accesso a 50 modelli gratuiti“.
Degli annunci Meta, 127 presentavano le sembianze della Watson. Altre 74 presentavano il volto dell’attrice Scarlett Johansson scambiato con quello di donne in video altrettanto provocanti. “Sostituisci il volto con chiunque“, recitano le didascalie di 80 annunci. “Divertiti con la tecnologia AI swap face“. Martedì, dopo che NBC News ha chiesto un commento a Meta, tutti gli annunci dell’app sono stati rimossi dai servizi di Meta.