Un estudiante de secundaria de Maryland fue esposado a punta de pistola por la policía después de que un sistema de inteligencia artificial confundiera su bolsa de Doritos con un arma de fuego.
Taki Allen, de 16 años, estaba esperando que lo recogieran de una práctica de fútbol en Kenwood High School en Essex, Maryland, cuando dijo que la policía se le acercó con armas y le exigió que se tirara al suelo.
“Al principio, no sabía adónde iban hasta que empezaron a caminar hacia mí con armas y me decían: “¡Tirad al suelo!””, dijo. WBAL. ‘Yo estaba como, “¿Qué?”‘
Imágenes de la cámara corporal obtenidas por WJZ Mostró a la policía deteniendo a Allen y a un grupo de sus amigos alrededor de las 7 p.m. del lunes.
Un policía se acercó al adolescente confundido y le preguntó si tenía un arma.
‘¿Tienes un arma contigo?’ dijo. ‘¿Tienes algo azul que parezca un arma?’
Pero Allen nunca tuvo un arma.
Lo que tenía era una bolsa arrugada de Doritos que sostenía con las dos manos y un dedo afuera.
La policía detuvo a Taki Allen, de 16 años, mientras esperaba que lo recogieran de la práctica de fútbol.
Los oficiales dijeron que el sistema de detección de armas de inteligencia artificial de la escuela había confundido la bolsa Doritos de Allen con un arma.
Las imágenes continuaron con los oficiales hurgando en un bote de basura de la escuela y encontrando exactamente eso.
Un oficial de policía le ofreció a Allen una explicación: “Básicamente, las cámaras alrededor del sistema captan cosas que parecen armas de fuego”.
“Supongo que por la forma en que comían papas fritas, Doritos o lo que sea, lo detectó como un arma, eso es todo”.
Allen calificó la situación de “aterradora” y dijo que nunca antes había pasado por algo así.
Dijo: ‘Me hicieron arrodillarme y luego me pusieron las manos detrás de la espalda y me esposaron. Luego me registraron y luego se dio cuenta de que no tenía (nada)’.
Las escuelas del condado de Baltimore comenzaron a utilizar un sistema de detección de armas de inteligencia artificial en 2023, que utiliza cámaras escolares existentes para identificar personas y objetos cercanos.
Si se detecta un arma, se envía inmediatamente una alarma a los funcionarios escolares y a la policía.
Las imágenes de la cámara corporal capturaron a la policía acercándose a Allen y un grupo de sus amigos.
Allen dijo que la policía tenía armas y le exigió que se tirara al suelo.
El incidente tuvo lugar en la escuela secundaria Kenwood de Baltimore.
El sistema está fabricado por Omnilert, con sede en Virginia, que afirma ser el proveedor líder de “tecnología de detección de armas de IA”, y es la Ley de SEGURIDAD.aprobado.
Myriam Rogers, superintendente de las escuelas públicas del condado de Baltimore, dijo: “En este caso, el programa hizo lo que se suponía que debía hacer: enviar una alerta para que los humanos echaran un vistazo si había motivo de preocupación en ese momento”.
Kenwood High School dijo que la administración había recibido una alerta diciendo que alguien en los terrenos de la escuela “podría haber estado en posesión de un arma”.
En un correo electrónico a los padres, la escuela declaró: ‘El Departamento de Seguridad Escolar revisó y canceló rápidamente la alerta inicial después de confirmar que no había ningún arma. Me comuniqué con nuestro oficial de recursos escolares (SRO) y le informé del asunto, y él se comunicó con el distrito local para obtener apoyo adicional.
‘Los agentes de policía acudieron a la escuela, registraron al individuo y rápidamente confirmaron que no estaban en posesión de ningún arma. Entendemos lo perturbador que fue esto para la persona que fue registrada, así como para los demás estudiantes que presenciaron el incidente.’
La escuela dijo que los consejeros brindarían “apoyo directo” a los estudiantes involucrados, pero Allen dijo que nadie se había puesto en contacto con él.
Dijo: ‘No se disculparon. Simplemente me dijeron que era protocolo.
“Esperaba que al menos alguien hablara conmigo sobre esto”.
La superintendente de las escuelas públicas del condado de Baltimore, Myriam Rogers, dijo que la tecnología de inteligencia artificial “hizo lo que se suponía que debía hacer”.
El abuelo de Allen, Lamont Davis, dijo que el incidente podría haber resultado mucho peor.
El sistema de detección de armas de IA utilizado fue fabricado por Omnilert.
El enojo se extendió a la familia del adolescente, quienes dijeron que el hecho podría haber terminado mucho peor.
Lamont Davis, su abuelo, dijo a Halcón: ‘Dios no lo quiera, mi nieto podría estar muerto si se estremeciera o se moviera’.
El incidente dejó al joven de 16 años conmocionado y temiendo por su futuro en la escuela.
Allen dijo: “Ya no tengo ganas de salir”. Si como otra bolsa de patatas fritas o bebo algo, siento que volverán a aparecer”.
Omnilert dijo que lamentaba el incidente, calificándolo de “falso positivo”, pero añadió que su tecnología de detección de armas “funcionó según lo previsto: priorizar la seguridad y la concientización a través de una rápida verificación humana”.
En febrero, el sistema de identificación de inteligencia artificial de Omnilert no logró evitar un tiroteo en la escuela secundaria Antioch en Nashville, Tennessee, que mató a una niña de 16 años..
El director ejecutivo Dave Fraser dijo cnn que el software de detección de armas de su empresa era “relativamente nuevo” y no “funcionaba perfectamente todo el tiempo”.
El concejal del condado de Baltimore, Izzy Patoka, pidió a las escuelas públicas del condado de Baltimore que revisen el sistema de detección de armas.
Dijo: “Ningún niño en nuestro sistema escolar debería ser acosado por la policía por comerse una bolsa de Doritos”.
El Daily Mail contactó a Omnilert para hacer comentarios.
