Ofcom ha avvertito le aziende tecnologiche che i contenuti dei chatbot che impersonano persone reali e immaginarie potrebbero violare le nuove leggi digitali del Regno Unito.
L’autorità di regolamentazione delle comunicazioni ha emesso le linee guida dopo che è emerso che gli utenti della piattaforma Character.AI avevano creato avatar che imitavano le adolescenti britanniche decedute Brianna Ghey e Molly Russell.
Sotto la pressione degli attivisti per la sicurezza digitale affinché chiarissero la situazione, Ofcom ha sottolineato che i contenuti creati dai chatbot creati dagli utenti rientrerebbero nell’ambito di applicazione della legge sulla sicurezza online.
Senza nominare la società di intelligenza artificiale Character.AI con sede negli Stati Uniti, Ofcom ha affermato che un sito o un’app che consentisse agli utenti di creare i propri chatbot con cui altre persone possano interagire sarebbe coperto dalla legge.
“Ciò include servizi che forniscono agli utenti strumenti per creare chatbot che imitano i personaggi di persone reali e immaginarie, che possono essere inviati a una libreria di chatbot con cui altri possono interagire”, ha affermato Ofcom.
In una lettera aperta, Ofcom ha anche affermato che qualsiasi sito o app da utente a utente – come una piattaforma di social media o un’app di messaggistica – che consenta alle persone di condividere con altri contenuti generati da un chatbot su quel sito rientrerebbe nell’ambito di applicazione. Le aziende che violano la legge rischiano multe di 18 milioni di sterline o del 10% del fatturato globale dell’azienda. In casi estremi è possibile bloccare anche siti web o app.
Ofcom ha affermato di aver emesso le linee guida dopo “incidenti dolorosi”. Ha evidenziato un caso riportato per la prima volta dal Daily Telegraph in cui gli utenti di Character.AI hanno creato robot che fungessero da cloni virtuali di Brianna, 16 anni, una ragazza transgender uccisa da due adolescenti l’anno scorso, e Molly, che si è tolta la vita nel 2017 dopo visualizzazione di contenuti online dannosi.
Ha inoltre segnalato un caso negli Stati Uniti in cui un adolescente è morto dopo aver sviluppato una relazione con un avatar di Character.AI basato su un personaggio di Game of Thrones.
Le nuove norme sulla sicurezza online, che entreranno in vigore a pieno titolo l’anno prossimo, richiederanno ai social media e ad altre piattaforme che ospitano contenuti creati dagli utenti di proteggere gli utenti, in particolare i bambini, da materiale illegale e altro materiale dannoso.
Le regole richiederanno alle piattaforme più grandi di creare sistemi per rimuovere in modo proattivo materiale illegale e altro materiale potenzialmente dannoso, fornendo allo stesso tempo strumenti di segnalazione chiari agli utenti ed effettuando valutazioni del rischio, tra gli altri nuovi compiti.
La Molly Rose Foundation (MRF), un ente di beneficenza fondato dalla famiglia di Molly, ha affermato che la guida ha inviato un “chiaro segnale” che i chatbot potrebbero causare danni significativi.
Tuttavia, MRF ha affermato che è necessaria ulteriore chiarezza sulla questione se i contenuti generati dai bot possano essere considerati illegali ai sensi della legge, dopo che il consigliere del governo sulla legislazione sul terrorismo, Jonathan Hall KC, ha affermato quest’anno che le risposte dei chatbot basati sull’intelligenza artificiale non erano adeguatamente coperte dalla legislazione esistente. Ofcom produrrà a breve linee guida sulla lotta ai contenuti illegali sulle piattaforme, compreso il materiale dei chatbot.
Ben Packer, partner dello studio legale Linklaters, ha dichiarato: “Il fatto che Ofcom abbia dovuto chiarire che questi servizi potrebbero rientrare nell’ambito riflette la vasta ampiezza e l’assoluta complessità dell’Online Safety Act. È anche un sintomo del fatto che l’atto ha iniziato la sua gestazione diversi anni prima della proliferazione degli strumenti e dei chatbot GenAI”.
Character.AI ha affermato di prendere sul serio la sicurezza sulla sua piattaforma e di moderare i personaggi sia in modo proattivo che in risposta alle segnalazioni degli utenti” e che i chatbot Ghey, Russell e Game of Thrones sono stati rimossi.
