Il governo del Regno Unito non inserisce l’uso dell’intelligenza artificiale nel registro obbligatorio | Intelligenza artificiale (AI)

Nessun dipartimento di Whitehall ha registrato l’uso di sistemi di intelligenza artificiale da quando il governo ha dichiarato che sarebbe diventato obbligatorio, suggerendo che il settore pubblico sta “volando alla cieca” riguardo all’implementazione della tecnologia algoritmica che colpisce milioni di vite.

L’intelligenza artificiale viene già utilizzata dal governo per prendere decisioni su qualsiasi argomento, dai pagamenti delle indennità all’applicazione delle norme sull’immigrazione, e i registri mostrano che gli enti pubblici hanno assegnato dozzine di contratti per servizi algoritmici e di intelligenza artificiale. Un contratto per un software di riconoscimento facciale, del valore fino a 20 milioni di sterline, è stato messo in palio la scorsa settimana da un ente di appalto della polizia istituito dal Ministero degli Interni, riaccendendo le preoccupazioni sulla “sorveglianza biometrica di massa”.

Ma i dettagli di soli nove sistemi algoritmici sono stati finora presentati a un registro pubblico, tra cui nessuno dei sempre più numerosi programmi di intelligenza artificiale utilizzati nel sistema di welfare, dal Ministero degli Interni o dalla polizia. La carenza di informazioni arriva nonostante il governo abbia annunciato nel febbraio di quest’anno che l’uso del registro dell’IA sarebbe ora “un requisito per tutti i dipartimenti governativi”.

Gli esperti hanno avvertito che, se adottata in modo acritico, l’intelligenza artificiale comporta potenziali danni, con recenti esempi importanti di sistemi IT che non funzionano come previsto, incluso il software Horizon dell’ufficio postale. L’intelligenza artificiale in uso all’interno di Whitehall spazia dal sistema Copilot di Microsoft, che è stato ampiamente sperimentato, ai controlli automatizzati di frodi ed errori nel sistema di benefit. Un recente bando di gara dell’AI emesso dal Dipartimento per il lavoro e le pensioni (DWP) ha descritto “un proliferare di interesse all’interno del DWP, che rispecchia quello del governo e della società in generale”.

Peter Kyle, segretario di Stato per la scienza e la tecnologia, ha ammesso che il settore pubblico “non ha preso abbastanza sul serio la necessità di essere trasparente nel modo in cui il governo utilizza gli algoritmi”.

Alla domanda sulla mancanza di trasparenza, Kyle ha detto al Guardian: “Accetto che se il governo utilizza algoritmi per conto del pubblico, il pubblico ha il diritto di sapere. Il pubblico deve sentire che gli algoritmi sono lì per servirlo e non viceversa. L’unico modo per farlo è essere trasparenti riguardo al loro utilizzo”.

Big Brother Watch, un gruppo che si batte per i diritti della privacy, ha affermato che l’emergere del contratto di riconoscimento facciale della polizia, nonostante i parlamentari avvertissero della mancanza di legislazione per regolamentarne l’uso, è stato “l’ennesimo esempio della mancanza di trasparenza da parte del governo sull’uso dell’intelligenza artificiale”. tecnologia.”

“L’uso segreto dell’intelligenza artificiale e degli algoritmi per avere un impatto sulla vita delle persone mette a rischio i diritti dei dati di tutti. I dipartimenti governativi devono essere aperti e onesti su come utilizzano questa tecnologia”, ha affermato Madeleine Stone, chief advocacy officer.

Il Ministero degli Interni ha rifiutato di commentare.

L’Ada Lovelace Institute ha recentemente avvertito che i sistemi di intelligenza artificiale potrebbero sembrare in grado di ridurre gli oneri amministrativi, “ma possono danneggiare gravemente la fiducia del pubblico e ridurre i benefici pubblici se le previsioni o i risultati che producono sono discriminatori, dannosi o semplicemente inefficaci”.

Imogen Parker, direttore associato dell’organismo di ricerca sui dati e sull’intelligenza artificiale, ha dichiarato: “La mancanza di trasparenza non solo tiene il pubblico all’oscuro, ma significa anche che il settore pubblico sta volando alla cieca nell’adozione dell’intelligenza artificiale. La mancata pubblicazione di dati sulla trasparenza algoritmica sta limitando la capacità del settore pubblico di determinare se questi strumenti funzionano, imparare da ciò che non funziona e monitorare i diversi impatti sociali di questi strumenti”.

Dalla fine del 2022 sono stati registrati nel registro nazionale solo tre algoritmi. Si tratta di un sistema utilizzato dal Cabinet Office per identificare documenti digitali di valore storico a lungo termine, una telecamera basata sull’intelligenza artificiale utilizzata per analizzare gli attraversamenti pedonali a Cambridge, e un sistema per analizzare le revisioni dei pazienti sui servizi del Servizio Sanitario Nazionale.

Ma da febbraio sono 164 i contratti con enti pubblici che menzionano l’AI, secondo Tussell, società di monitoraggio dei contratti pubblici. Le aziende tecnologiche, tra cui Microsoft e Meta, stanno promuovendo vigorosamente i loro sistemi di intelligenza artificiale in tutto il governo. Google Cloud ha finanziato un recente rapporto secondo il quale una maggiore diffusione dell’intelligenza artificiale generativa potrebbe liberare fino a 38 miliardi di sterline nel settore pubblico entro il 2030. Kyle lo ha definito “un potente promemoria di come l’intelligenza artificiale generativa possa essere rivoluzionaria per i servizi governativi”.

Non tutta l’intelligenza artificiale più recente del settore pubblico riguarda dati sui membri del pubblico. Un contratto da 7 milioni di sterline con il consiglio comunale di Derby è descritto come “Trasformare il comune utilizzando la tecnologia dell’intelligenza artificiale” e un contratto da 4,5 milioni di sterline con il dipartimento per l’istruzione è finalizzato a “migliorare le prestazioni dell’intelligenza artificiale per l’istruzione”.

Un portavoce del dipartimento di Scienza e Tecnologia ha confermato che lo standard di trasparenza “è ora obbligatorio per tutti i dipartimenti” e ha affermato che “una serie di documenti [are] che sarà pubblicato a breve”.

Dove il governo sta già utilizzando l’intelligenza artificiale?

• Il Dipartimento per il lavoro e le pensioni ha utilizzato l’intelligenza artificiale generativa per leggere più di 20.000 documenti al giorno per “comprendere e riassumere la corrispondenza”, dopodiché le informazioni complete vengono poi condivise con i funzionari per il processo decisionale. Dispone di sistemi automatizzati per rilevare frodi ed errori nelle richieste di credito universali e l’intelligenza artificiale assiste gli agenti che lavorano sulle richieste di pagamento per l’indipendenza personale riassumendo le prove. Quest’autunno, DWP ha iniziato a implementare strumenti di intelligenza artificiale di base nei centri per l’impiego, consentendo ai formatori di lavoro di porre domande sull’orientamento universale al credito nel tentativo di migliorare l’efficacia delle conversazioni con le persone in cerca di lavoro.

• Il Ministero degli Interni implementa un sistema di controllo dell’immigrazione basato sull’intelligenza artificiale, che i critici chiamano “robo-caseworker”. Un algoritmo è coinvolto nella definizione delle decisioni, compreso il ritorno delle persone nei loro paesi d’origine. Il governo lo descrive come un sistema “basato su regole” piuttosto che sull’intelligenza artificiale, poiché non prevede l’apprendimento automatico dai dati. Dice che porta efficienza dando priorità al lavoro, ma che un essere umano rimane responsabile di ogni decisione. Il sistema viene utilizzato nel contesto di un numero crescente di richiedenti asilo soggetti ad azioni di allontanamento, che attualmente ammonta a circa 41.000 persone.

• Diverse forze di polizia utilizzano software di riconoscimento facciale per rintracciare sospetti criminali con l’aiuto dell’intelligenza artificiale. Questi hanno incluso la polizia metropolitana, la polizia del Galles del Sud e la polizia dell’Essex. I critici hanno avvertito che tale software “trasformerà le strade della Gran Bretagna in schieramenti di polizia hi-tech”, ma i sostenitori dicono che cattura sospetti criminali e che i dati dei passanti innocenti non verranno archiviati.

• NHS England ha un contratto da 330 milioni di sterline con Palantir per creare una nuova enorme piattaforma dati. L’accordo con la società statunitense che costruisce infrastrutture digitali abilitate all’intelligenza artificiale ed è guidata dal sostenitore di Donald Trump, Peter Thiel, ha suscitato preoccupazioni sulla privacy dei pazienti, sebbene Palantir affermi che i suoi clienti mantengono il pieno controllo dei dati.

• È in fase di sperimentazione un chatbot basato sull’intelligenza artificiale per aiutare le persone a navigare nel vasto sito web del governo gov.uk. È stato costruito dal servizio digitale del governo utilizzando la tecnologia ChatGPT di OpenAI. Redbox, un altro chatbot basato sull’intelligenza artificiale utilizzato dai dipendenti pubblici di Downing Street e di altri dipartimenti governativi, è stato inoltre implementato per consentire ai funzionari di approfondire rapidamente documenti governativi protetti e ottenere riassunti rapidi e briefing personalizzati.