Perché siamo tutti topi da laboratorio nel mondo digitale

Ogni volta che andiamo online, potremmo ritrovarci parte di un esperimento, senza saperlo. Le piattaforme digitali tengono traccia di ciò che fanno gli utenti e di come rispondono alle funzionalità. Questi test hanno sempre più conseguenze nel mondo reale per i partecipanti.

L’ho riscontrato nella mia ricerca sulla gig economy, studiando le piattaforme di annunci di lavoro che offrono compiti e lavori retribuiti ai liberi professionisti (HA Rahman et al. Accade. Gestione J. 661803–1830; 2023). Le piattaforme hanno sperimentato l’utilizzo di metodi diversi per valutare il lavoro delle persone, oltre a cambiare il modo in cui le loro competenze sarebbero state elencate nella pagina del loro profilo e il modo in cui avrebbero potuto interagire con i loro appaltatori. Questi cambiamenti hanno influenzato le valutazioni delle persone e la quantità di lavoro che hanno ricevuto.

Come sfruttare il potenziale dell’intelligenza artificiale nella ricerca in modo responsabile ed etico

Vent’anni fa tale sperimentazione era trasparente. I lavoratori temporanei potevano partecipare o meno ai test. Ma oggi questi esperimenti vengono condotti di nascosto. I lavoratori gig rinunciano ai loro diritti quando creano un account.

Essere sperimentati può essere sconcertante e depotenziante. Immagina che, ogni volta che entri nel tuo ufficio, sia stato ridisegnato. Lo stesso vale per il modo in cui vieni valutato e come puoi parlare con i tuoi superiori, ma a tua insaputa o senza il tuo consenso. Tali cambiamenti continui influenzano il modo in cui fai e senti il ​​​​tuo lavoro.

I lavoratori dei concerti hanno affermato che, dopo aver notato frequenti cambiamenti sulle piattaforme di elenco apportati senza il loro consenso, hanno iniziato a vedere se stessi come topi da laboratorio piuttosto che come utenti stimati. Poiché i loro messaggi erano bloccati dai chatbot, non potevano parlare con la piattaforma per lamentarsi o annullare le modifiche. La frustrazione divampò e subentrò l’apatia. Il loro reddito e il loro benessere diminuirono.

Ciò è preoccupante, non solo per gli effetti che ha sui lavoratori gig, ma anche perché gli accademici sono sempre più coinvolti nella progettazione di esperimenti digitali. Gli scienziati sociali seguono rigide procedure dell’Institutional Review Board (IRB) che regolano l’etica degli esperimenti che coinvolgono le persone – come informarle e richiedere il consenso – ma queste regole non si applicano alle aziende tecnologiche. E questo porta a pratiche discutibili e risultati potenzialmente inaffidabili.

L’intelligenza artificiale in soccorso: come migliorare l’allarme tempestivo in caso di catastrofi con strumenti tecnologici

Le aziende tecnologiche utilizzano i loro termini di servizio per autorizzarle a raccogliere dati senza alcun obbligo di informare le persone del loro coinvolgimento o di fornire loro alcuna possibilità di ritirarsi. Pertanto, la sperimentazione digitale si trova ad affrontare una scarsa supervisione.

Dato che le aziende tecnologiche raggiungono milioni di persone, gli esperimenti che utilizzano i loro dati possono essere informativi. Ad esempio, uno studio del 2022 condotto da accademici e dalla piattaforma di carriera LinkedIn ha risposto a domande su come gli anelli deboli nei social network delle persone contribuiscono ai risultati lavorativi (K. Rajkumar et al. Scienza 3771304–1310; 2022). La piattaforma ha variato l’algoritmo utilizzato per suggerire nuovi contatti a oltre 20 milioni di utenti. Quelle persone non ne erano consapevoli, nonostante ciò potesse influenzare le loro prospettive lavorative.

Gli stessi scienziati possono essere soggetti a tali pratiche nascoste. Ad esempio, a settembre, la rivista Scienza ha riconosciuto che gli studi pubblicati sulla polarizzazione politica utilizzando i feed degli utenti della piattaforma di social media Facebook sono stati compromessi quando il colosso della tecnologia ha modificato il suo algoritmo durante il periodo di studio all’insaputa degli scienziati (H. Holden Thorp e V. Vinson Scienza 3851393; 2024).

Gli accademici devono essere più cauti nei confronti dei dati che generano attraverso collaborazioni con aziende tecnologiche e ripensare il modo in cui conducono questa ricerca. È necessario un quadro eticamente solido per la collaborazione tra scienza e industria, al fine di garantire che la sperimentazione non metta a repentaglio la fiducia del pubblico nella scienza.

Retrazione della catena: come fermare la propagazione della cattiva scienza attraverso la letteratura

In primo luogo, gli studiosi dovrebbero impegnarsi in un controllo etico approfondito verificando i potenziali partner e assicurandosi che seguano i principi IRB. Potrebbero collaborare o creare organizzazioni di controllo intermediarie, proprio come Fairwork, con sede a Oxford, nel Regno Unito, salvaguarda i diritti dei lavoratori gig-worker, che possono verificare le pratiche di sperimentazione e introdurre trasparenza nella raccolta dei dati. Possono diffondere e applicare norme etiche di sperimentazione, informare i partner industriali su come condurre ricerche eticamente valide e chiederne conto.

In secondo luogo, gli studiosi devono valutare gli effetti sociali della sperimentazione per studiare e mitigare qualsiasi potenziale danno. Questo non è banale, perché gli esperimenti raramente prendono in considerazione il benessere dei partecipanti e non valutano le potenziali conseguenze indesiderate.

Le aziende tecnologiche dovrebbero istituire i propri comitati di revisione interni, che hanno l’autorità di valutare e controllare gli esperimenti. L’industria deve instillare una cultura di sperimentazione eticamente solida, compresa la comprensione dei potenziali effetti avversi che i partecipanti potrebbero affrontare.

La regolamentazione è fondamentale. Un buon esempio è l’Artificial Intelligence Act dell’Unione Europea, che centra il diritto dei consumatori alla privacy e alla protezione dei dati e mira a stabilire “uno spazio sicuro e controllato per la sperimentazione”.

I consumatori e gli utenti dovrebbero formare organizzazioni di terze parti, simili ai sindacati utilizzati dai lavoratori gig, per valutare se le aziende richiedono il consenso e consentono alle persone di rinunciare alla sperimentazione, e quanto sono trasparenti.

Far avanzare la frontiera della sperimentazione tra scienza e industria richiede pratiche, regole e regolamenti che garantiscano risultati reciprocamente vantaggiosi per le persone, le organizzazioni e la società.

Interessi concorrenti

L’autore non dichiara interessi concorrenti.