Amazon Rekognition confunde a 28 congresistas con sospechosos de la po

15-11-2020 14:31:02

Amazon Rekognition confunde a 28 congresistas con sospechosos de la policía
La ACLU, Unión Estadounidense por las Libertades Civiles, ha realizado una prueba con el reconocimiento facial de Amazon y los resultados han sido sorprendentes. La organización ha escaneado con Amazon Rekognition las caras de los 535 miembros del congreso de los Estados Unidos y las ha cotejado con 25.000 fotos públicas de sospechosos de la policía. El sistema ha sido capaz de confundir hasta 28 congresistas con posibles delincuentes. La ACLU recuerda el peligro de que los organismos oficiales utilicen este tipo de tecnología.

Los responsables de Amazon han atribuido los malos resultados a una mala calibración del sistema. Las pruebas realizadas por la organización se han realizado con el umbral de confianza predeterminado por el sistema, que es de un 80%. En este caso la compañía recomienda que los organismos oficiales como Gobiernos o policía utilicen un umbral de un 95%, ya que las consecuencias de una equivocación pueden ser graves.

Dicha prueba también pone de relieve la amenaza que el sistema desarrollado por Amazon puede representar para las personas negras. Casi el 40% de las coincidencias falsas en el análisis se correspondían con las fotos de personas de color, pese a que estas solo representan el 20% de los congresistas.