Twitter e Pornhub, il sito di video a luci rosse che nel 2017 ha sfiorato quota 30 miliardi di visite, si sono scagliati contro il deepfakes, cioè il porno realizzato con l’ausilio dell’Intelligenza Artificiale che permette di inserire il volto di una persona qualsiasi al posto di quella della persona originariamente nel video.

Un portavoce del social network, che a differenza di altri consente la pubblicazione di scatti intimi, ha spiegato a The Verge che questa tipologia infrange i suoi termini di utilizzo che vietano scatti “prodotti o distribuiti senza il consenso del soggetto”. Pornhub, dal canto suo, ha detto a Motherboard di “considerare questo genere di contenuti come porno non consensuale”, lo stesso del cosiddetto revenge porn, e che perciò li rimuoverà. Ma che cos’è il deepfakes?  

“Siamo fottuti”

Tutto è nato su reddit pochi mesi fa. A dicembre Motherboard aveva scoperto un utente – chiamato deepfakes, con più di 90 mila followers – che pubblicava video in cui cambiava il volto dei protagonisti di video porno con quelli di celebrità di Hollywood. Il tutto grazie all’Intelligenza Artificiale. Il meccanismo grossomodo funziona così: il software usato si basa su librerie come Keras che girano su altri software di machine learning open-source come TensorFlow, messo a punto da Google con intenti molto differenti e distribuito liberamente a chiunque.

Deepfakes porn has serious consequences https://t.co/0TxELbBHQH

— Luciano Floridi (@Floridi) 3 febbraio 2018

<script async src="https://platform.twitter.com/widgets.js" charset="utf-8">

L’apprendimento automatico consiste nel fatto che diversi nodi svolgono calcoli sui dati di input, che in questo caso sono corpo e volto delle persone coinvolte, fino a riuscire a manipolare il video in maniera automatica. Ma con una breve ricerca su internet si arriva facilmente a un thread in cui l’autore spiega passo a passo come imparare questa tecnica di fotomontaggio.

L’articolo che ha svelato il trucco – intitolato inequivocabilmente “Il porno falso fatto con l’ausilio dell’AI esiste e siamo tutti fottuti” - lanciava l’allarme spiegando che “ci troviamo sul ciglio di un mondo in cui è facile, persino banale, produrre video credibili di persone che dicono e fanno cose mai dette e fatte, persino sesso”.

Da Scarlett Johansson a Nicolas Cage

Sono molte le star del cinema già finite nella trappola del deepfakes. Da Scarlett Johansson a Gal Gadot, da Natalie Portman a Emma Watson, passando per Sophie Turner e Natalie Dormer, la maggior parte delle vittime sono donne e i loro volti sono finiti in video espliciti. Tra gli uomini il più gettonato è Nicolas Cage, utilizzato però in diverse scene di film non a luci rosse. Con un effetto almeno in parte divertente, come ha scritto Forbes in un articolo che condanna comunque senza mezze misure il fenomeno.

#deepfakes ou comment remplacer un visage dans une vidéo ou une image grace à l'#iA. Bluffant et effrayant !! L'image n'est donc vraiment plus une preuve. #DedicaceANicolas pic.twitter.com/uXVwEINiPK

— Mustafa Senhaji (@jonydeeplearner) 2 febbraio 2018

<script async src="https://platform.twitter.com/widgets.js" charset="utf-8">

Il problema rimangono dunque i video porno: su reddit alcuni utenti hanno già chiesto aiuto alla community per mettere la propria ex fidanzata su qualche altrui corpo nudo, presumibilmente come vendetta per la fine della relazione.

L’annuncio di Twitter e Pornhub non è il primo: altri gruppi come Discord (la comunità di appassionati di videogames) e Gfycat (sito di GIF) avevano mosso passi in questa direzione, proibendo contenuti che “rappresentano in modo falso il legame con qualche persona”. Ma per Forbes proibire non basta, perché il problema è altrove: “Non siamo pronti per raccogliere parte del potere che la tecnologia ci offre – ha scritto – e come per molte delle cose che succedono online non esiste soluzione”. (agi Marco Gritti)

Sostieni Agorà Magazine I nostri siti non hanno finanziamento pubblico. Grazie Spazio Agorà Editore

Sostengo Agorà Magazine