È emerso che la società statunitense di tecnologia di spionaggio Palantir è in trattative con il Ministero della Giustizia per utilizzare la sua tecnologia per calcolare il “rischio di recidiva” dei prigionieri.
Le proposte sono emerse nella corrispondenza rilasciata ai sensi del Freedom of Information Act che mostrava come la società abbia anche esercitato pressioni sui nuovi ministri del governo britannico, tra cui la cancelliera Rachel Reeves.
Amnesty International è tra le organizzazioni che esprimono preoccupazione per il ruolo in espansione che Palantir sta tentando di ritagliarsi dopo che l’anno scorso le è stato assegnato in modo controverso un contratto multimilionario con il servizio sanitario nazionale.
Il ministro delle carceri, James Timpson, ha ricevuto una lettera tre settimane dopo le elezioni generali da un dirigente della Palantir che affermava che l’azienda era una delle società di software leader a livello mondiale e stava lavorando in prima linea nel campo dell’intelligenza artificiale (AI).
Palantir ha discusso con il Ministero della Giustizia e il Prison Service su come “la condivisione sicura delle informazioni e l’analisi dei dati possano alleviare le sfide carcerarie e consentire una comprensione granulare della recidiva e dei rischi associati”, ha aggiunto il dirigente.
Si ritiene che le discussioni, iniziate sotto il governo conservatore, abbiano incluso proposte di Palantir per analizzare la capacità carceraria e per utilizzare i dati detenuti dallo Stato per comprendere le tendenze relative alla recidiva. Ciò si baserebbe sull’aggregazione dei dati per identificare e agire sulle tendenze, tenendo conto di fattori quali problemi di reddito o di dipendenza.
Un portavoce di Palantir ha affermato: “Un software avanzato che integra automaticamente i dati potrebbe fornire un’unica fonte di verità, costantemente aggiornata, sulla capacità delle carceri in tutto il Regno Unito, contribuendo a massimizzare l’uso degli spazi carcerari limitati. Questo tipo di soluzione ha parallelismi con il modo in cui il nostro software ha supportato il lancio del vaccino contro il Covid-19, fornendo un quadro chiaro e in tempo reale dell’adozione a livello locale, regionale e nazionale”.
Tuttavia, il direttore delle imprese e dei diritti umani di Amnesty International UK, Peter Frankental, ha espresso preoccupazione. “È profondamente preoccupante che Palantir stia cercando di sedurre il nuovo governo in un cosiddetto mondo nuovo, in cui i servizi pubblici potrebbero essere gestiti da robot irresponsabili a scapito dei nostri diritti”, ha affermato. “Il lavoro deve affrontare la seria sfida di garantire che le tecnologie digitali siano utilizzate in linea con i diritti umani, compresa la protezione della privacy delle persone, il diritto all’uguaglianza, la non discriminazione e la protezione dei dati.
“I ministri devono respingere qualsiasi uso dell’intelligenza artificiale nella giustizia penale, nelle carceri e nei sistemi di welfare che potrebbe portare alla discriminazione delle persone, a prendere di mira ingiustamente e ad altri errori giudiziari. Lo scandalo delle Poste è un forte avvertimento su ciò che può accadere quando le tecnologie digitali vengono considerate infallibili”.
Le preoccupazioni su Palantir sono state aggravate dal ruolo politico svolto dal suo co-fondatore e presidente, Peter Thiel, uno dei principali sostenitori di Donald Trump nella Silicon Valley, nonché sostenitore ed ex datore di lavoro del vicepresidente eletto, JD Vance. Thiel una volta scrisse: “Non credo più che libertà e democrazia siano compatibili”.
Altre lettere rilasciate al Guardian rivelano che il co-fondatore e amministratore delegato di Palentir, Alexander Karp, ha scritto ai ministri, tra cui Reeves, chiedendo di incontrarsi per discutere su come favorire la crescita e l’uso dei suoi prodotti nei dipartimenti governativi.
Karp si autodefinisce “socialista”, ma ha parlato di Palantir come una contraria alle aziende “svegliate” ed è noto per aver fatto dichiarazioni provocatorie, sostenendo che la società credeva che “l’Occidente è un modo di vivere superiore”.
Ciò si riflette in una lettera che Karp scrisse al ministro della scienza, Peter Kyle, dicendogli: “La nostra azienda è stata fondata per aiutare a rafforzare le istituzioni critiche in tutto l’Occidente”.
dopo la promozione della newsletter
Come con Reeves, Karp ha cercato di incontrare Kyle per discutere di “sfruttare l’intelligenza artificiale per fornire la prossima generazione di servizi pubblici abilitati alla tecnologia in tutta HMG”.
Karp ha detto a Reeves che la società impiegava quasi 1.000 ingegneri informatici a Londra, il suo ufficio europeo per l’intelligenza artificiale, e prevedeva di aprire presto un altro ufficio altrove in Gran Bretagna. Palantir scrisse ad altri ministri tra cui il segretario capo del Tesoro, Darren Jones, e il ministro del Commercio Douglas Alexander.
Kyle e Reeves non hanno incontrato Palantir durante il loro periodo come ministri, secondo il governo, mentre altri ministri esercitati pressioni dalla società non sembrano aver risposto. Altri nel Labour si sono sentiti profondamente a disagio riguardo ai legami dell’azienda con il partito, in particolare con la sua ala blairiana.
Il backbencher laburista Clive Lewis ha detto di essere preoccupato che “grandi entità aziendali” come Palantir stiano cercando di diventare parte integrante della fornitura di servizi pubblici.
“Stiamo invitando un’entità aziendale altamente estrattiva che agirà sempre prima nel proprio interesse, non in quelli che in definitiva sarebbero gli interessi del servizio sanitario nazionale o di altri servizi pubblici. Puoi seguire un percorso di fantascienza, ma alla fine dove ci porterà? Lewis ha detto.
“Mi sembra che ci sia una pressione affinché questo governo laburista porti crescita a tutti i costi. Il mio timore è che ciò ci porterà a prendere scorciatoie per garantire una crescita a un ritmo rapido e potremmo pentirci di ciò che abbiamo fatto”.
