Un errore di identificazione del software AI di riconoscimento facciale della polizia di New York ha portato all’arresto di Trevis Williams, 36 anni, accusato ingiustamente di atti osceni in un condominio di Manhattan.
La vicenda
A febbraio, una donna aveva denunciato alla polizia di essere stata molestata da un fattorino nei corridoi del palazzo. Due mesi dopo, gli agenti hanno arrestato Williams, presente nel database della Polizia per una precedente denuncia in seguito a una piccola lite. L’AI lo avrebbe identificato confrontandolo con le sgranate immagini del vero molestatore riprese dalle telecamere.
Ma le discrepanze erano evidenti: la donna aveva descritto un uomo alto circa 1,78 m e dal peso di 70 chili, mentre Williams misura 1,98 m e pesa 100 chili. Inoltre, i dati del suo telefono lo collocavano a chilometri di distanza al momento dei fatti.
Williams ha passato oltre due giorni in carcere prima che il caso fosse archiviato a luglio. «In un batter d’occhio la tua vita può cambiare», ha dichiarato.
Troppa fiducia umana
Il riconoscimento facciale è già collegato ad almeno dieci arresti sbagliati negli Stati Uniti (uno dei più eclatanti a Detroit nel 2023). La tecnologia ha dimostrato di funzionare bene con immagini nitide e controllate, ma fallisce spesso con i filmati di sorveglianza sfocati.
Il Dipartimento di Polizia di New York utilizza il sistema migliaia di volte l’anno, senza registrare gli errori, e ribadisce di non basarsi mai unicamente sul software. La vicenda di Williams però testimonia proprio una mancanza nel processo umano. Secondo la testimonianza dell’uomo, le forze dell’ordine avrebbero confidato troppo nella tecnologia senza controlli ulteriori.
Leggi altri articoli sulla polizia:
🚓
- Negli USA hanno arrestato una donna per l’errore di un’AI
- Google revoca il divieto sull’uso dell’AI per armi e sorveglianza
- I rapporti della polizia li scrive l’intelligenza artificiale
- Regno Unito: prima indagine per stupro nel metaverso
- In Gran Bretagna le ‘telecamere poliziotto’ sono già realtà
- WhoFi: un team romano ha creato un sistema che riconosce le persone con un segnale WiFi
- Altri 275 mln per la startup di sorveglianza Flock Safety; valutazione a 7,5 mld
- L’AI “lombrosiana” che prevede l’orientamento politico a partire dal volto
- Senza biglietto in metropolitana? Ti scova l’intelligenza artificiale
