L'analisi condotta ad oggi da Amnesty International e da S.T.O.P. (Surveillance Technology Oversight Project, ente per la tutela della privacy e dei diritti civili con sede a New York), su oltre 2700 documenti rivela che le tecnologie di riconoscimento facciale (FRT) sono state utilizzate in diverse occasioni dal NYPD, esponendo i newyorkesi a tecnologie di sorveglianza invasive, imperfette e profondamente discriminatorie.
I documenti mostrano inoltre che queste tecnologie sono state utilizzate per identificare delle persone in seguito a segnalazioni spontanee da parte di comuni cittadini che ritenevano sospette determinati individui perché parlavano una lingua diversa o indossavano abiti culturalmente distintivi.
“New York promette di essere una città rifugio, ma abbiamo creato uno stato di sorveglianza. Queste tecnologie costose, soggette a errori e parziali stanno sprecando miliardi di dollari. La sorveglianza da parte della polizia di New York espone i nostri vicini al rischio di arresti illegittimi, espulsioni o anche peggio. È ora che i newyorkesi vedano quali sono i metodi distopici utilizzati dalla polizia di New York per sorvegliarci tutti. I legislatori devono agire adesso, far sì che la polizia il NYPD sia chiamato a rispondere delle proprie azioni, vietare il riconoscimento facciale e imporre un vero monitoraggio civile”. ha affermato Michelle Dahl, direttrice del Surveillance Technology Oversight Project.
Il riconoscimento facciale viola il diritto alla privacy attraverso la raccolta massiccia di dati visivi senza che le persone ne siano a conoscenza e senza il loro consenso. Il sistema è inficiato da pregiudizi razziali, che colpiscono in modo sproporzionato le comunità razzializzate, e soffoca le proteste pacifiche e la libertà di espressione attraverso il suo effetto dissuasivo. Per questi motivi, centinaia di organizzazioni considerano questa tecnologia illegale. Da tempo Amnesty International e S.T.O.P. chiedono il divieto dell'uso, dello sviluppo, della produzione e della vendita della tecnologia di riconoscimento facciale per l'identificazione e la sorveglianza di massa da parte delle forze dell'ordine e di altre agenzie governative.
L’analisi dei documenti ottenuti ha permesso di evidenziare come la sorveglianza da parte della polizia di New York metta spesso a rischio le comunità emarginate. I registri del NYPD documentano anche la profilazione dei newyorkesi in base alla lingua, all'etnia e ad altre caratteristiche protette.
I primi risultati dell’analisi di oltre 2700 documenti del NYPD mostrano che:
- Finanziamento non trasparente: tra il 2019 e il 2020 il NYPD ha speso più di 5 milioni di dollari in tecnologia per il riconoscimento facciale, con almeno 100.000 dollari supplementari ogni anno.
- Affidabilità ignorata: il NYPD ha smesso di monitorare l'accuratezza del riconoscimento facciale nel 2015, dopo aver riscontrato un tasso di errore troppo elevato.
- Sorveglianza illegale: agenti del NYPD hanno collaborato segretamente con la polizia federale per sorvegliare un account Instagram privato tramite una ditta controversa, in violazione delle direttive interne.
- Libertà di espressione minacciata: il 31 dicembre 2019, il NYPD ha utilizzato il riconoscimento facciale per individuare persone che utilizzavano slang per descrivere Times Square sui social media, tra cui: “NYE in Times Square is da BOMB” (Capodanno a Times Square è una BOMBA), in una chiara violazione eccessivamente ampia e pericolosa del diritto alla libertà di espressione e in un modo che ignora il contesto culturale e linguistico.
- Voci critiche prese di mira: il NYPD ha utilizzato il riconoscimento facciale per identificare persone che hanno espresso critiche, come chi ha fatto un graffito con la scritta “FTP” (“fuck the police”), o ha pubblicato critiche iperboliche sui social media.
- Profilazione etnica: due uomini sono stati erroneamente presi di mira dal riconoscimento facciale durante i festeggiamenti di Capodanno a Times Square il 31 dicembre 2019, per la lingua in cui si esprimevano e per comportamenti giudicati “sospetti” in base a criteri discriminatori.
- Sorveglianza politica: nel 2020 una persona attiva su Twitter è stata sorvegliata senza giustificazioni, solo a causa delle sue opinioni.
- Limitazione della creazione artistica: nell’aprile 2020 due cantanti sono stati identificati e sottoposti a un confronto all'americana virtuale a causa dei contenuti di un video che avevano prodotto.
“I documenti che abbiamo ottenuto evidenziano molteplici casi di discriminazione e abuso nell'uso del riconoscimento facciale, che rafforzano quanto le nostre precedenti ricerche avevano già dimostrato”, ha dichiarato Matt Mahmoudi, ricercatore e consulente su IA e diritti umani per Amnesty International. “Per troppo tempo la polizia di New York ha evitato il monitoraggio e ha approfittato della mancanza di trasparenza per investire e utilizzare illegalmente il riconoscimento facciale limitando i diritti delle persone alla privacy, all'uguaglianza e alla non discriminazione, nonché alla libertà di espressione e di riunione pacifica”.
Contesto
Nel settembre 2020, Amnesty International ha presentato una richiesta di accesso alle informazioni relative ai documenti della polizia di New York sulla sorveglianza delle storiche proteste Black Lives Matter (BLM) dello stesso anno. Nel 2021, la polizia di New York ha respinto la richiesta e il ricorso amministrativo di Amnesty International. In seguito S.T.O.P. e lo studio legale Quinn Emanuel Urquhart & Sullivan hanno quindi citato in giudizio il NYPD per conto di Amnesty International. Nel 2022, la Corte Suprema di New York per la contea di New York ha ordinato al NYPD di divulgare più di 2700 documenti.
Nel 2022, Amnesty International, S.T.O.P. e i partner della coalizione newyorkese “Ban the Scan” hanno rivelato che i newyorkesi residenti in zone a maggior rischio di essere fermati e perquisiti dalla polizia sono soggetti a un maggiore riconoscimento facciale. I gruppi hanno anche dimostrato che i residenti non bianchi del Bronx, di Brooklyn e del Queens sono esposti a una maggiore concentrazione di telecamere della polizia di New York.
Queste organizzazioni esortano i membri del Consiglio comunale di promulgare divieti sul riconoscimento facciale - due misure proposte hanno già ottenuto il sostegno della maggioranza dei membri del Consiglio – e chiedono inoltre al NYPD e al sindaco della città di impegnarsi a porre immediatamente fine all’uso di questa tecnologia discriminatoria, invasiva e soggetta a errori.
