Deepfake: lo scandalo delle app che spogliano le persone reali
Un’indagine del Tech Transparency Project svela il business oscuro dei software nudify presenti sugli store di Apple e Google
L’universo digitale sta affrontando una nuova emergenza legata all’uso distorto dell’intelligenza artificiale generativa attraverso applicazioni create appositamente per violare la privacy delle persone. Una recente indagine condotta dal Tech Transparency Project ha portato alla luce un numero inquietante di software capaci di spogliare virtualmente chiunque partendo da una semplice fotografia. Questi strumenti, noti nel gergo tecnico come app “nudify”, sfruttano algoritmi avanzati per rimuovere i vestiti dalle immagini originali o per inserire i volti delle vittime in video pornografici preesistenti. Secondo i dati raccolti dall’organizzazione no-profit, il fenomeno non riguarda nicchie oscure del web ma coinvolge direttamente i principali negozi digitali globali gestiti da Apple e Google.
Il mercato milionario dietro la manipolazione visiva
Il rapporto descrive una situazione allarmante per quanto riguarda la diffusione di questi prodotti tecnologici che hanno generato profitti enormi nel corso degli ultimi mesi. Il gruppo di ricerca ha individuato con precisione diciotto applicazioni di questo tipo nello store di Apple e altre venti presenti nel catalogo ufficiale di Google. I numeri complessivi svelano l’entità di un mercato sotterraneo che ha registrato circa 483 milioni di download totali portando nelle casse degli sviluppatori oltre 122 milioni di dollari. Questi software operano spesso sotto mentite spoglie presentandosi come innocui editor fotografici prima di rivelare le loro reali e pericolose funzioni di manipolazione visiva a sfondo sessuale.
Mancanza di filtri e la risposta delle Big Tech
Uno degli aspetti più controversi emersi dall’analisi riguarda la classificazione di sicurezza che permette a chiunque di accedere a tali contenuti senza restrizioni d’età. Molte delle applicazioni analizzate dal Tech Transparency Project riportavano l’etichetta “Everyone” che le rende teoricamente idonee al download anche da parte di bambini e adolescenti. Questa gestione problematica dei filtri di sicurezza ha sollevato pesanti critiche verso i giganti della Silicon Valley che sembrano incapaci di monitorare efficacemente i propri ecosistemi digitali. La direttrice dell’organizzazione Katie Paul ha espresso duramente la propria posizione durante un colloquio con Bloomberg sottolineando la responsabilità diretta delle aziende coinvolte in questo scandalo.
“Le aziende non effettuano un’adeguata revisione di queste app, continuando ad approvarle e a trarne profitto nonostante i rischi evidenti per la sicurezza degli utenti,” ha dichiarato Paul. La velocità dello sviluppo tecnologico ha ampiamente superato le capacità di controllo dei moderatori umani e degli algoritmi di sorveglianza. Dopo la pubblicazione del rapporto e le conseguenti pressioni mediatiche, sia Apple che Google hanno confermato di aver rimosso la maggior parte dei software segnalati dai loro store ufficiali. Tuttavia la facilità con cui queste tecnologie si rigenerano sotto nuovi nomi continua a rappresentare una sfida aperta per le autorità di tutto il mondo.
La questione dei deepfake non è nuova alle cronache internazionali ma sta assumendo contorni sempre più preoccupanti a causa della facilità di accesso a questi strumenti. All’inizio dell’anno la Commissione Europea aveva già avviato una indagine formale nei confronti di Grok, il chatbot integrato nel social network X di Elon Musk. Quel caso specifico riguardava la possibilità di creare immagini pedopornografiche o deepfake sessuali coinvolgendo soggetti minorenni attraverso semplici comandi testuali impartiti all’intelligenza artificiale. Questi eventi dimostrano quanto sia urgente una regolamentazione globale più severa per impedire che l’innovazione tecnologica diventi un’arma utilizzata per molestare e umiliare milioni di persone ignare.
Di Dario Lessa
Leggi anche: La corsa degli umanoidi è già un mercato miliardario
Seguici su Facebook e Instagram!
