Detector de armas con IA confunde bolsa de Doritos con una pistola y provoca detención de estudiante

Un sistema de inteligencia artificial instalado en cámaras de seguridad provocó que agentes armados intervinieran a Taki Allen, un estudiante de la secundaria Kenwood High School en Baltimore County, tras identificar erróneamente una bolsa de Doritos como un arma de fuego.

El joven, que se encontraba conversando y comiendo junto a compañeros tras el entrenamiento de fútbol, relató el desconcierto que vivió al ver llegar alrededor de ocho patrullas policiales al lugar. “Al principio no sabía a dónde iban hasta que se acercaron hacia mí con las armas fuera, diciéndome: ‘Al suelo’, y yo solo pensé: ‘¿Qué ocurre?’”, contó Allen en entrevista con WBAL-TV 11 News.

Según detalló el propio estudiante, los agentes le ordenaron arrodillarse, le esposaron las manos a la espalda y lo requisaron. “Tras revisar, comprobaron que no tenía nada, y luego vieron en el suelo la bolsa de papas”, explicó Allen. Al mostrarle la imagen que había activado la alerta del software de detección, Allen expresó su sorpresa: “Solo estaba sosteniendo la bolsa de Doritos.

Tenía las dos manos y un dedo estirado, y decían que parecía una pistola”, describió en declaraciones recogidas por WBAL-TV 11 News.

En un comunicado oficial, la policía del condado de Baltimore reconoció que el lunes, cerca de las 19:20, agentes de la comisaría local acudieron al instituto tras recibir un informe sobre una posible persona armada. Según la versión policial, “el individuo fue registrado y se determinó que no llevaba ningún arma”.

En tanto, agregó que el episodio quedó en manos de las autoridades escolares para explicar el funcionamiento del sistema Omnilert, el software de IA para la detección de armas implementado en centros educativos del condado desde el año pasado.

La dirección de Kenwood High School se dirigió a las familias a través de una carta en la que confirmó que la alerta fue analizada y cancelada tras verificarse que no existía peligro real. En el mensaje, la directora Kate Smith aseguró que las fuerzas policiales “respondieron al llamado, registraron al estudiante y rápidamente constataron la ausencia de armas”.

Asimismo, la comunicación informó que el centro pondría a disposición tanto de Allen como de los compañeros que presenciaron la escena el apoyo de consejeros para atender la situación. “La seguridad de nuestro alumnado y de la comunidad escolar continúa siendo una de nuestras prioridades más altas”, concluye el texto difundido a los padres de familia.

El detector “funcionó como se esperaba”

La empresa Omnilert, responsable del sistema de detección de armas por inteligencia artificial instalado en la escuela, manifestó públicamente su pesar tras el incidente. En una declaración a CNN, la compañía sostuvo: “Lamentamos que este incidente haya ocurrido y queremos transmitir nuestra preocupación al estudiante y a la comunidad en general afectada por los hechos posteriores”.

Omnilert subrayó que su tecnología está concebida para identificar posibles amenazas y derivarlas de inmediato a una revisión humana, destacando que, aunque el objeto finalmente “no era un arma de fuego, el proceso funcionó como se esperaba: priorizar la seguridad y la conciencia mediante una verificación humana rápida”.

Sobre el uso de esta tecnología, la superintendente Myriam Rogers detalló en conferencia de prensa que el sistema de IA se implementa desde 2023 en las escuelas públicas del condado de Baltimore, donde se encarga de analizar el video captado por las cámaras de seguridad preexistentes.

Rogers calificó lo sucedido el lunes como “realmente lamentable”, y expresó que el distrito “nunca quiere poner a ninguno de sus estudiantes en una situación tan aterradora”.

FUENTE: EJU