null: nullpx
Seguridad y Prevención

Tecnología de reconocimiento facial de Amazon confundió a 26 legisladores de California con criminales

El asambleísta Phil Ting utilizó los resultados del experimento realizado por la Unión Americana de Libertades Civiles para impulsar el proyecto de ley AB 1215, que busca prohibir el uso de tecnologías de reconocimiento facial en las cámaras que los agentes del orden portan en sus uniformes.
14 Ago 2019 – 10:14 PM EDT

SAN FRANCISCO, California. – El asambleísta estatal por San Francisco, Phil Ting, jamás ha sido arrestado. Su colega Reggie Jones-Sawyer, representante por Los Ángeles, tampoco cuenta con antecedentes penales. Pero eso no impidió que estos dos legisladores de California -junto a decenas más- fueran confundidos con criminales por un software de reconocimiento facial desarrollado y comercializado por la compañía Amazon.

Ambos asambleístas se unieron este martes a varias organizaciones sin fines de lucro para impulsar el proyecto de ley AB 1215, que busca prohibir que las tecnologías de reconocimiento facial sea utilizadas en las cámaras que los agentes del orden portan en sus uniformes. Y es que para Ting y Jones-Sawyer esta cruzada también es personal, pues sus fotografías estaban entre las de 26 asambleístas californianos que arrojaron coincidencias positivas cuando se les comparó con una base de datos que contenía las imágenes de más de 25,000 fichas criminales.

La Unión Americana de Libertades Civiles (ACLU) es una de las organizaciones que apoya esta medida y la que puso a prueba el programa ‘ Rekognition’, un software que Amazon ofrece al público para "identificar a personas en fotos y videos" de forma "rápida y precisa". Los resultados del experimento demostraron que 1 de cada 5 legisladores estatales -15 asambleístas y 11 senadores en total- fueron seleccionados por el programa como personas que habían sido previamente arrestadas cuando se les comparó con la base de datos. Un experimento similar realizado el año pasado, tuvo los mismos resultados con 28 congresistas federales.

Con la prueba realizada por ACLU, Ting busca demostrar que la tecnología de reconocimiento facial no es confiable, a la vez que espera que su iniciativa reciba el apoyo del senado estatal y del propio gobernador de California para convertirse en ley. “Es claro que este software no está listo para ser usado en toda su capacidad en las agencias del orden. Si eres arrestado y eso queda en tus antecedentes, puede ser muy difícil conseguir vivienda o trabajo. Tiene impactos reales”, dijo el asambleísta.

El legislador Reggie Jones-Sawyer, presidente del Comité de Seguridad Pública de la Asamblea estatal, fue más allá al advertir sobre los riesgos que este tipo de tecnologías representan especialmente para las minorías. “A menudo los miembros de las minorías son confundidos por otros. He escuchado demasiados casos de confusión de identidad que terminan en arrestos y en el peor de los casos a la muerte”, indicó.

En un ejercicio similar realizado en julio de 2018, ACLU demostró que entre los 28 miembros del congreso federal que fueron confundidos con delincuentes por la tecnología de Amazon, “las falsas coincidencias fueron desproporcionadamente de personas de color”. Meses antes, los miembros del Black Caucus habían enviado una carta al CEO de la compañía, Jeff Bezos, expresando su preocupación por “las consecuencias negativas involuntarias que el reconocimiento facial podría tener para los afroamericanos, los inmigrantes indocumentados y los manifestantes en las calles”.

“La semana pasada vimos cómo una de las mayores redadas migratorias destruyó a casi 600 familias en Mississippi. Una de las claves para permitir ese nivel de trauma es la vigilancia de alta tecnología, incluyendo al reconocimiento facial”, señaló Steven Renderos, codirector de Media Justice, otra de las organizaciones sin fines de lucro que apoya el proyecto de ley del asambleísta Ting.

Las estrategias de vigilancia

El uso de tecnología de reconocimiento facial es una de las más recientes técnicas implementadas por los Servicios de Inmigración y Aduanas (ICE) para el rastreo de indocumentados. El mes pasado el diario The New York Times reportó que la agencia ha tenido acceso a la información de las bases de datos de las licencias de conducir en estados que ofrecen licencias de conducir para indocumentados. Sin embargo, esta no es la primera vez que echan mano de este tipo de recursos.

En marzo de este año, la Asociación Americana de Libertades Civiles reveló que ICE emplea sistemas de “vigilancia masiva” creados por empresas de Silicon Valley para detectar y arrestar a indocumentados con fines de deportación en el norte de California. Lo más preocupante de ese reporte fue un señalamiento que aseguraba que las agencias del orden estaban cooperando con ICE, incluso aquellas que adoptaron leyes y políticas santuario a nivel local y estatal.

ACLU dijo entonces que a través de una plataforma proporcionada por la empresa Vigilant Solutions, que se alimenta principalmente de un lector automatizado de placas vehiculares o ALPR, las autoridades de Inmigración habían tenido acceso a más de 5,000 millones de datos que les ayudan a localizar a individuos en las ciudades más grandes del país, y que son recolectados lo mismo por agencias del orden que por negocios privados como compañías de seguros y lotes de estacionamiento.

Además, según lo publicado por la organización, esta tecnología les permitía a los agentes federales consultar más de 1,500 millones de registros en las bases de datos de los departamentos de Policía locales. En total, ACLU denunció que más de 80 agencias del orden locales, entre las que se encuentran las policías de Union City y Merced, han aceptado compartir información de las placas vehiculares de millones de residentes a través de la plataforma facilitada por Vigilant Solutions.

El año pasado, el BART también reconoció que por error envió a una base de datos a la que tiene acceso el Servicio de Inmigración y Aduanas más de 57,000 fotos de placas de autos que pasaron frente a una estación de trenes en Oakland, California. Dicha información fue colectada y compartida entre enero y agosto de 2017, durante un período en que directivos del BART adoptaron una "política de tránsito seguro" que pohibía la colaboración con las autoridades migratorias buscando proteger y conservar la confianza de los pasajeros indocumentados.

Tecnología para imitar el rostro humano: las nuevas máscaras hiperrealistas fabricadas en Japón (fotos)

Loading
Cargando galería

Más contenido de tu interés