Deepfake, video manipolati, voci sintetiche: il dibattito pubblico li dipinge attualmente come una nuova e inquietante minaccia. Dominano i titoli dei giornali, sollevano complesse questioni giuridiche e alimentano dibattiti tecnocratici sulla regolamentazione.
Un esempio di spicco è l’iniziativa legislativa presentata da Stefanie Hubig, Ministro federale della Giustizia tedesco, volta a contrastare specificamente la violenza digitale e l’abuso delle tecnologie deepfake. Tuttavia, non dobbiamo trascurare la reale portata del problema: i deepfake non sono la causa, ma l’ultimo sintomo.
Rappresentano un aggiornamento tecnologico di una forma di violenza profondamente radicata nelle strutture di potere analogiche: una violenza sistematicamente discriminatoria e strettamente allineata alle disuguaglianze sociali esistenti.
La violenza digitale non può essere compresa isolatamente. Coloro che molestano o umiliano pubblicamente online le donne, le persone queer e altri gruppi emarginati raramente lo fanno per un impulso puramente tecnologico. Al contrario, il loro comportamento attinge a forme di violenza ben consolidate – forme che dobbiamo chiamare con il loro nome: stalking, intimidazione e abuso di potere.
Questa continuità è evidente nella pratica. Anche prima dell’avvento dell’IA, le mie clienti riferivano di essere minacciate con la pubblicazione di immagini intime quando tentavano di lasciare un partner. La forza di tali minacce risiedeva nella possibilità sempre presente di diffusione digitale e nella conseguente perdita di controllo – intrappolando di fatto queste donne in relazioni abusive. In altri casi, il controllo maschile non terminava con la separazione. Si evolveva semplicemente: partendo dallo stalking fisico nella vita quotidiana, passando all’hacking degli account e al doxing di informazioni private. Nel corso del tempo, la violenza si è sempre più spostata nella sfera digitale senza mai cambiare il suo carattere fondamentale.
La stessa dinamica persiste in contesti professionali. Una giovane donna ha descritto come un collega inizialmente l’abbia molestata e sminuita sul posto di lavoro. Quando lei ha reagito, immagini manipolate di lei sono apparse improvvisamente sui social media. Il messaggio era inequivocabile: una donna che afferma i propri confini rischia ritorsioni sotto forma di violenza (digitale).
Un modello simile è emerso in una disputa di quartiere che si è intensificata nel corso di diversi mesi, culminando nella diffusione di registrazioni audio fabbricate con l’intento di isolare socialmente la vittima. Ciò che era iniziato come un conflitto personale è stato trasformato in un’arma digitale per la diffamazione pubblica. La violenza analogica e quella digitale sono profondamente intrecciate – un punto sottolineato anche da Collien Fernandes. Si sovrappongono nei loro fattori scatenanti, nei loro metodi e, in ultima analisi, nel loro impatto.
Nel nostro attuale tessuto sociale, i deepfake non segnano una rottura con la logica della violenza sessualizzata: rappresentano una nuova fase di escalation. Amplificano la portata, la velocità e la persistenza del trauma. Ciò che un tempo poteva essere confinato a una cerchia sociale limitata può ora raggiungere milioni di persone – e rimanere accessibile a tempo indeterminato.
Se si vuole affrontare efficacemente la violenza digitale, è necessario considerare il quadro più ampio. Non è sufficiente limitarsi a regolamentare le piattaforme o a definire nuovi reati. Sebbene il dibattito attuale sia fondamentale per colmare le lacune giuridiche e segnalare la determinazione politica, le questioni decisive sono di natura strutturale: come cambiamo i contesti sociali che consentono, normalizzano e nascondono la violenza? Come promuoviamo una cultura in cui gli abusi e le molestie non trovino spazio, né offline né online?
Questo, a sua volta, rimanda a sfide sistemiche: dipendenze economiche che rendono difficile sfuggire a relazioni abusive; disuguaglianze sociali che aumentano la vulnerabilità; una cultura che minimizza il superamento dei limiti e chiude gli occhi sugli abusi di potere, spesso per vergogna e paura dello stigma sociale. La prevenzione, la sensibilizzazione delle istituzioni e l’istruzione rimangono cronicamente sottofinanziate. Gli spazi sicuri sono scarsi e mancano sistemi di sostegno a bassa soglia. Senza un intervento a questo livello, le risposte legali rischiano di affrontare i sintomi piuttosto che le cause.
Una risposta significativa deve andare oltre. Richiede sforzi sostenuti per combattere la povertà e la disuguaglianza, insieme all’espansione dei servizi di protezione e consulenza. Richiede un sistema educativo che rifletta criticamente sulle dinamiche di potere e affronti sia la violenza digitale che quella analogica.
Soprattutto, esige che la responsabilità sociale sia presa sul serio nella pratica, non solo invocata in astratto. E ai professionisti del diritto che leggono questo articolo: identificare le lacune dottrinali non è sufficiente. Abbiamo bisogno di proposte concrete, di un dialogo costante e di passi avanti tangibili – specialmente da parte di coloro che attualmente si rifugiano nel formalismo giuridico.
Infine, dobbiamo sfidare i ruoli di genere tradizionali. Ciò include uomini disposti a guardare da vicino e ad assumersi la responsabilità. Uomini che si esprimano contro la violenza sessualizzata, riflettano sui propri ruoli nelle relazioni e abbracciano forme non violente di mascolinità e cura. Abbiamo bisogno di uomini che affrontino i perpetratori e li chiamino a rispondere delle loro azioni. Allo stesso tempo, abbiamo bisogno di donne che stiano unite, condividano le loro esperienze e agiscano in solidarietà attraverso la cura collettiva.
In definitiva, la violenza digitale mette a nudo quanto potere, controllo e genere rimangano strettamente intrecciati nella nostra società. I deepfake prendono di mira in modo sproporzionato donne, ragazze e persone emarginate. Riproducono il sessismo, il razzismo e le narrazioni patriarcali, codificando gerarchie di lunga data in una nuova forma tecnologica: l’idea persistente che corpi, voci e identità possano essere ridotti a semplici oggetti.
Chiunque intenda affrontare l’abuso digitale deve essere disposto a confrontarsi con questa realtà scomoda: la lotta contro i deepfake è inseparabile dalla più ampia lotta contro la violenza e la disuguaglianza.
- Pubblicato sul sito di diritto costituzionale Verfassungsblog (originale inglese, qui). L’autrice è avvocata e scrittrice.
