Quasi 700mila le donne che si sono ritrovate, a loro insaputa, spogliate su Telegram in foto e video poi divenuti virali. Nella maggior parte dei casi si tratta di persone comuni, non personaggi pubblici.
Veri e propri fotomontaggi, un particolare tipo di deepfake (deep nude o deep porne) che in questo caso crea fake nude (falsi nudi).
Dove il vero volto viene foto-montato ad arte su un corpo, ma verosimile.
Il bot Deep Nude di Telegram
Creati utilizzando un bot, Deep Nude, disponibile Telegram.
Un bot che impiega l’intelligenza artificiale per restituire immagini senza veli piuttosto coerenti con l’immagine che gli viene proposta.
Chiunque di noi può cadere nella rete: è sufficiente aver scambiato una foto (vestita) su Telegram o aver condiviso pubblicamente una foto sui social media.
Al malintenzionato, in modo molto semplice, non resta dunque che inviare una foto nella chat del bot e lasciar fare tutto all’Intelligenza Artificiale. In meno di 30 secondi avrà a disposizione lo scatto osé da far diventare virale.
L’applicazione DeepNude
Il bot altro non è che un’evoluzione dell’applicazione DeepNude, apparsa per la prima volta un anno fa.
Tale applicazione era in grado di sostituire la foto originale con nudità adeguate alla corporatura del soggetto.
Riconoscendo e comparando immagini a partire da un database di oltre 10mila nudi femminili.
Aggiungendo le giuste ombreggiature e rispettandone le proporzioni.
Registrò subito un grande successo, con circa mezzo milione di download.
Al tempo stesso però suscitò sdegno e violenti proteste di molti utenti, oltre che di vari organi di stampa.
Soprattutto se si pensa al fenomeno di revenge porn.
Fu per questo che l’ideatore fu costretto a chiuderlo dopo soli 4 giorni.
La tecnologia applicata si chiama GAN (generative adversarial network – rete generativa avversaria).
Una tecnologia in grado di generare un’immagine più realistica possibile e capire se è abbastanza realistica da essere scambiata per vera.
Sicuramente dalle potenzialità impressionanti, come dimostra il sito web thispersondoesnotexist.com, che mostra ritratti di persone che non esistono, generate artificialmente da questo algoritmo.
Il Garante per la Privacy interviene su DeepNude
L’indagine è frutto del lavoro di una startup di Cybersecurity, Sensity, che ha scoperto che più di 100mila immagini sono state generate e condivise nei canali pubblici di Telegram fino a luglio scorso.
Ad oggi questo dato è aumentato sfiorando le 680mila immagini deepfake create e scambiate.
L’Italia è tra i quattro paesi in cui il fenomeno risulta più diffuso, come Russia, Argentina e Stati Uniti.
Preoccupato per gli effetti prodotti dal software e dalla sua diffusione tra gli utenti del social, il Garante per la Privacy ha deciso di aprire un’istruttoria nei confronti di Telegram.
«Notizie di stampa hanno, nei giorni scorsi, riportato il caso di alcune ragazze vittime di un particolare tipo di deep fake, cioè video e immagini realizzati attraverso delle app che consentono di trasformare il volto, la voce e il corpo delle persone, creando veri e propri falsi. Le ragazze si sono ritrovate, a loro insaputa, spogliate su Telegram dopo che alcuni utenti avevano manipolato le loro foto usando un programma informatico, derivato da un software chiamato DeepNude, disponibile sul canale social e che impiega l’intelligenza artificiale per ricostruire l’aspetto che avrebbe il corpo sotto gli indumenti.
Le gravi lesioni alla dignità e alla privacy a cui l’uso di un software simile espone le persone, soprattutto se minori, sono evidenti, considerati anche il rischio che tali immagini vengano usate a fini estorsivi o di revenge porn e tenuto conto dei danni irreparabili a cui potrebbe portare una incontrollata circolazione delle immagini, fino a forme di vera e propria viralizzazione. La facilità d’uso di questo programma rende, peraltro, potenzialmente vittime di deep fake chiunque abbia una foto sul web.
Il Garante chiederà a Telegram di fornire informazioni, al fine di verificare il rispetto delle norme sulla protezione dei dati nella messa a disposizione agli utenti del programma informatico, nonché di accertare l’eventuale conservazione delle immagini manipolate e le finalità di una tale conservazione»
Nota del Garante per la Privacy
Una tecnologia alla portata di tutti
In realtà è bene ricordare che Telegram è semplicemente un canale, come possono essercene mille altri.
Basta infatti una semplice ricerca su un motore di ricerca per trovare altri siti web che consentono di ottenere lo stesso risultato.
Sebbene la maggior parte delle applicazioni e dei bot gratuiti generino finti nudi con filigrane o nudità parziali, è sufficiente pagare pochi euro per accedere a immagini completamente senza veli e difficilmente distinguibili da una foto reale.
Tecnologie che dunque sono ormai alla portata di chiunque e ci devono far porre domande anche, e soprattutto, sul piano etico e morale.
Impedirne l’uso non è certo la soluzione.
Una foto del genere, per quanto più o meno grossolana, è decisamente più che sufficiente per rovinare la reputazione di una persona, farla vergognare, metterla in imbarazzo, farla sentire molestata.
Non dimentichiamo che far circolare un’immagine o un video del genere, per quanto fake, è una forma di estorsione (sextortion) o di umiliazione (cyberbullismo), un attacco alla sua reputazione, quando non anche un atto persecutorio.
Ancora peggio se utilizzata nell’ambito della pornografia minorile virtuale.
Auspichiamo che l’intervenuto del Garante per la Privacy sia solo il primo passo verso un intervento legislativo urgente atto a colmare le attuali lacune nella tutela delle vittime, attualmente presenti nel caso di reato di diffusione illecita di immagini o video sessualmente espliciti.
