Le piattaforme tecnologiche dovrebbero combattere il rapido aumento di DeepFakes espliciti e “Revenge Porn” utilizzando un database di immagini per proteggere le donne e le ragazze online, secondo la nuova guida elaborata dal cane da guardia delle comunicazioni del Regno Unito.
La mossa fa parte di una serie di misure proposte da Ofcom per affrontare la misoginia online, le molestie e la condivisione di immagini intime senza il consenso del soggetto – spesso indicato come “porno di vendetta”.
Il regolatore sta raccomandando l’uso della cosiddetta tecnologia di abbinamento hash, che consente alle piattaforme di abbattere un’immagine che è stata oggetto di un reclamo.
Sotto il sistema, un’immagine o un video contrassegnato da un utente è trasferenziata da un database di immagini illecite convertite in un “hash” o impronta digitale. Ciò consente di rilevare e rimuovere le immagini dannose dalla circolazione.
Gli esempi includono stopncii.org, che consente ai sopravvissuti e alle vittime di generare hash da immagini intime non consensuali, i cui dettagli vengono quindi condivisi su piattaforme partecipanti.
La ricerca di Ofcom ha scoperto che la proliferazione di strumenti di intelligenza artificiale generativa, che può creare immagini e audio altamente realistici da semplici istruzioni a mano, aveva portato a un abuso intimo di immagini più profonde che venivano pubblicati online nel 2023 rispetto a tutti gli anni precedenti combinati.
Jessica Smith di Ofcom, che ha guidato lo sviluppo della nuova guida, ha dichiarato: “Per l’abuso di immagini intime, stiamo dicendo che le aziende tecnologiche dovrebbero iscriversi a una tecnologia chiamata hash-matching, che è fondamentalmente un database di immagini che consente a qualsiasi immagine di essere identificato su scala ovunque sia condiviso su una piattaforma.
“È una tecnologia davvero innovativa. Ciò significa che non deve essere segnalato ogni volta che viene caricato. Significa che viene segnalato una volta e ovunque esista sia identificato. “
La bozza di guida va oltre ciò che è richiesto ai sensi della legge sulla sicurezza online 2023, al fine di coprire non solo danni illegali ma danni “legali” che non soddisfano una soglia criminale, con molti posti misogini non tecnicamente illegali.
Stabilisce come i fornitori di servizi – tra cui app di appuntamenti, social media, giochi, siti pornografici e servizi di ricerca – possano affrontare contenuti e attività che colpiscono in modo sproporzionato donne e ragazze in riconoscimento dei rischi specifici che affrontano.
Ofcom ha anche affermato che le piattaforme dovrebbero prendere in considerazione l’introduzione di “nudges” per chiedere se qualcuno è sicuro di voler pubblicare un commento potenzialmente dannoso, una caratteristica che ha dimostrato di portare a un cambiamento di comportamento significativo.
Ofcom consiglia le piattaforme di introdurre le impostazioni predefinite in modo che donne e ragazze possano facilmente ottenere i profili più privati senza dover passare attraverso tutte le impostazioni per scegliere quelle che le proteggono di più.
Nel suo documento di consultazione, Ofcom evidenzia che:
-
Le donne hanno cinque volte più probabilità di essere vittime di un abuso di immagini intime.
-
Quasi il 70% dei ragazzi di età compresa tra 11 e 14 anni è stato esposto a contenuti online che promuove misoginia e altre opinioni dannose.
-
Quasi un quarto delle ragazze adolescenti (23%) vedono regolarmente contenuti che oggettifica o sminuiscono le donne.
-
Gli abusi domestici online sono sottoposti a segnalazione-la metà dei sopravvissuti (49%) non ne ha detto nessuno.
-
Quasi tre quarti degli intervistati in un sondaggio (73%) avevano subito minacce e abusi online.
Un messaggio chiave alla base della legge sulla sicurezza online è la sicurezza per progettazione, il che significa che le piattaforme dovrebbero costruire misure di sicurezza dalla fase di progettazione. Ofcom afferma che utilizzerà i suoi poteri di trasparenza per evidenziare quali piattaforme sono conformi e quali no, per informare gli utenti.
La bozza di guida ora si spegne per un feedback, con la guida finale da pubblicare entro la fine dell’anno.
Melanie Dawes, amministratore delegato di Ofcom, ha dichiarato: “La nostra guida pratica è un invito all’azione per i servizi online, stabilendo uno standard nuovo e ambizioso per la sicurezza online delle donne e delle ragazze.
“Non c’è solo un imperativo morale per le aziende tecnologiche per proteggere gli interessi delle utenti femminili, ma ha anche un senso commerciale, promuovendo una maggiore fiducia e impegno con una parte significativa della loro base di clienti.”
