Amnesty International ha esaminato la documentazione proveniente dagli archivi pubblici del Dipartimento della Sicurezza Interna (DHS) e i documenti relativi agli appalti e alla valutazione della privacy precedentemente divulgati, che dimostrano che gli strumenti di IA Babel X, forniti da Babel Street, e Immigration OS di Palantir, dispongono di funzionalità automatizzate che consentono il monitoraggio, la sorveglianza e la valutazione costanti e di massa delle persone, spesso allo scopo di prendere di mira i cittadini non statunitensi.
La ricerca rivela inoltre come questi strumenti siano utilizzati dal governo statunitense per tracciare migranti, rifugiati e richiedenti asilo, con l'alto rischio di essere utilizzati nell'ambito dell'iniziativa “Catch and Revoke” (Cattura e revoca), che combina sorveglianza dei social media, monitoraggio dello statuto dei visti e valutazione automatizzata della “minaccia” che rappresenterebbero le persone titolari di visti, incluso per studenti provenienti dall’estero.
"È profondamente preoccupante che il governo statunitense stia implementando tecnologie invasive basate sull'intelligenza artificiale nel contesto di un programma di deportazioni di massa e di repressione delle espressioni a favore della popolazione palestinese, che sfocia in una serie di violazioni dei diritti umani", ha dichiarato Erika Guevara-Rosas, direttrice senior per la ricerca, l'advocacy, le politiche e le campagne di Amnesty International.
Tecnologie ad alto rischio
Secondo i documenti esaminati, Babel X è stato utilizzato dal Servizio delle dogane e della protezione delle frontiere (CBP - Customs and Border Protection) almeno dal 2019. La tecnologia è in grado di raccogliere enormi quantità di dati da un unico identificatore, come il nome, l'indirizzo e-mail o il numero di telefono di una persona. Può anche accedere ai post sui social media, agli indirizzi IP, alla storia lavorativa e agli ID univoci generati per la pubblicità delle app mobili che possono essere utilizzati per tracciare la posizione del dispositivo. Babel X consente un ampio monitoraggio di vari gruppi, inclusi cittadini statunitensi e non statunitensi e residenti permanenti, ma è stato assegnato specificamente al monitoraggio di persone rifugiate e i richiedenti asilo.
Babel X conduce analisi del sentiment assegnando un sentiment e un'intenzione probabile ai post condivisi dagli individui sulla base del loro comportamento online. Può setacciare i social media alla ricerca di “contenuti relativi al terrorismo”, e le informazioni raccolte possono essere utilizzate dalle autorità statunitensi per decidere se revocare il visto di una persona. Queste tecnologie probabilistiche presentano margini di errore enormi e possono portare a interpretazioni erronee, per esempio assimilando contenuti filopalestinesi a propositi antisemiti.
Immigration OS, sviluppato da Palantir, è una versione migliorata del sistema integrato di gestione dei casi (Integrated Case Management – ICM), utilizzato dal Servizio di controllo dell'immigrazione e delle dogane (Immigration and Customs Enforcement – ICE) dal 2014. Questo sistema consente di collegare e organizzare tutti i documenti relativi a un'indagine sull'immigrazione e dà accesso a un'ampia varietà di dati personali provenienti da agenzie e forze dell'ordine statunitensi.
La nuova versione di Immigration OS presenta le seguenti caratteristiche:
- Semplificazione della selezione e dell'arresto delle persone in base alle priorità dell'ICE, concentrandosi sulle organizzazioni criminali transnazionali, i criminali violenti e coloro che hanno superato la durata del visto.
- Monitoraggio in tempo reale dell'autoespulsione e integrazione con i sistemi di prioritizzazione per informare le politiche e l'allocazione delle risorse.
- Gestione end-to-end dell'immigrazione, dall'identificazione all'allontanamento, con particolare attenzione all'efficienza delle espulsioni.
Nell'aprile 2025, Palantir ha ottenuto un contratto da 30 milioni di dollari per rafforzare queste capacità. Un messaggio interno rivelato da 404 Media mostra che Palantir ha accelerato l'in-tegrazione dei dati con l'ICE, in risposta alle priorità del nuovo governo.
Casi emblematici
L'8 marzo 2025, il governo degli Stati Uniti ha arrestato illegalmente Mahmoud Khalil, un ex studente laureato della Columbia University, portavoce dei manifestanti del campus e residente permanente negli Stati Uniti. Il presidente Trump ha dichiarato che si trattava del “primo di molti arresti a venire”. Poco dopo, a nove studenti stranieri che avevano partecipato alle proteste o si erano espressi contro il genocidio di Israele a Gaza sono stati revocati il visto o lo status di residente. Mahmoud Khalil è stato rilasciato il 20 giugno dalla custodia dell'ICE.
In un altro caso documentato, una studentessa turca di dottorato della Tufts University, Rumeysa Ozturk, è stata intercettata vicino a casa sua da sei agenti dell'immigrazione in borghese e fatta salire su un'auto senza contrassegni. Gli agenti si sono rifiutati di identificarsi fino a dopo il suo arresto. La sua unica colpa apparente era quella di aver co-scritto un articolo di opinione che criticava la mancanza di risposta della sua università alle richieste degli studenti riguardo a Gaza. È in seguito stata accusata, senza fornire prove, di essere “impegnata in attività a sostegno di Hamas”.
Questi casi illustrano l’effetto paralizzante della sorveglianza su studenti stranieri e persone migranti e le violazioni del diritto alla libertà di espressione, di non discriminazione e a procedure eque.
Responsabilità delle aziende
Amnesty International ha contattato Palantir e Babel Street nel luglio 2025. Babel Street non ha risposto. Palantir ha affermato che i suoi prodotti non facilitano direttamente il programma “Catch and Revoke”, pur riconoscendo che il suo sistema Immigration OS viene utilizzato nelle operazioni dell'ICE.
“Sistemi come Babel X e Immigration OS svolgono un ruolo essenziale nella capacità del governo statunitense di attuare le sue politiche repressive, facilitando decisioni automatizzate rapide che si traducono in espulsioni di massa condotte a una velocità senza precedenti”, sottolinea Erika Guevara-Rosas.
Amnesty ricorda che Palantir e Babel Street avrebbero potuto prevedere i rischi legati ai loro contratti con le agenzie migratorie statunitensi e che hanno una responsabilità di diligenza in materia di diritti umani. In assenza di garanzie sufficienti, dovrebbero cessare ogni collaborazione con il governo statunitense in questo campo.
Appello all'azione
Amnesty International chiede al Congresso americano di rafforzare i meccanismi di regolamentazione e sorveglianza delle tecnologie utilizzate nelle politiche migratorie, al fine di garantire che le aziende tecnologiche non contribuiscano a violazioni dei diritti umani.
