La Unión Estadounidense de Libertades Civiles (ACLU) sigue con su lucha contra los sistemas de reconocimiento facial. Esta vez ha denunciado los errores del sistema creado por Amazon. Para demostrarlo, la ACLU hizo un experimento.
Consistió en escanear las fotos de los 535 miembros del congreso de los Estados Unidos y luego las confrontó con 25.000 fotografías públicas de sospechosos de la policía con el programa de Amazon Rekognition. El resultado fue que el sistema de Amazon generó 28 supuestas coincidencias cuando en realidad ningún congresista está fichado por la policial.
El resultado de esta prueba plantea preocupaciones series sobre el uso del programa Rekognition por parte de la policía, según denuncia la ACLU.
El reconocimiento facial de Amazon confundió a 28 congresistas con delincuentes
La organización sin fines de lucro Unión Estadounidense por las Libertades Civiles (ACLU) puso a prueba la tecnología de reconocimiento facial de Amazon, Rekognition. #jimmyrosario #hablandoendigitos pic.twitter.com/azHboxp2fN
— Jimmy Rosario B. (@rosariojimmy) July 27, 2018
“Una identificación, sea precisa o no, podría costarles a las personas su libertad o incluso sus vidas”, afirma la ACLU en un comunicado. “El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre el uso de la aplicación de la ley para el reconocimiento facial”.
Un portavoz de Amazon en declaraciones a The Verge asegura que estos resultados se deben a una mala calibración.
Las pruebas de la ACLU se realizaron utilizando el umbral de confianza predeterminado de Rekognition del 80 por ciento. Pero en los casos relacionados con la apliación de la ley, Amazon asegura que recomienda al menos un umbral del 95 por ciento, ya que en estos casos una identificación falsa podría tener consecuencias más graves.
The American Civil Liberties Union tested Amazon’s new facial recognition system Rekognition API by scanning pics of all 538 mems of Congress against mugshots of criminals. 28 matched. Hmmm.
— John Simpson (@JohnSimpsonNews) July 27, 2018
”Aunque el 80% de confianza es un umbral aceptable para las fotos de perros o para su uso en las redes sociales, no es apropiado identificar individuos” asegura el portavoz de Amazon. Pero el programa Rekognition no aplica esa recomendación en su configuración, y no hay nada que impida que las agencias de aplicación de la ley usen la configuración predeterminada, advierten de la ACLU.
La Rekognition de Amazon ya fue objeto de polémica cuando un informe de ACLU mostró que el sistema era utilizado por varias agencias de aplicación de la ley, incluido una versión de prueba reconocimiento en tiempo real por la policía de Orlando.
Se trata de un software extremadamente económico, de menos de 12 dólares al mes, por lo que muchos cuerpos policiales se hicieron con él.
