Errore AI: Studente ammanettato per sacchetto di Doritos
Un sistema di rilevamento armi basato su AI chiama la polizia per errore, portando all'arresto di uno studente con un sacchetto di Doritos.
Un incidente inquietante ha coinvolto un giovane studente di Kenwood High School, a Baltimora, dopo che un sistema di rilevamento armi basato su AI ha erroneamente chiamato la polizia, innescando un intervento massiccio. Lo studente, Taki Allen, si trovava fuori dalla scuola con un sacchetto di Doritos dopo l'allenamento di football.
Dopo venti minuti dall'inizio dello spuntino, otto auto della polizia sono giunte sul posto. Allen è stato rapidamente costretto a inginocchiarsi e ammanettato. "È stata una situazione spaventosa," ha raccontato a WBAL-TV. L'errore è stato presto evidente, con la polizia che ha mostrato trasparenza sull'accaduto.
Il software Omnilert, responsabile della rilevazione errata, impiega un sistema a tre fasi per la rilevazione di armi, che include un passaggio di verifica umana prima dell'intervento. Tuttavia, la somiglianza del sacchetto di Doritos con un'arma ha portato al falso allarme. Omnilert non ha rilasciato commenti sull'incidente, dichiarando di non poter discutere le procedure interne delle scuole.
Sebbene sia stata offerta consulenza agli studenti coinvolti, l'episodio evidenzia le potenziali insidie dei sistemi di sicurezza basati su intelligenza artificiale e l'importanza di procedure di verifica umana più rigorose.
