8 miembros del Congreso de EE. UU. Identificados como sospechosos de la policía por la herramienta de reconocimiento facial de Amazon que emparejó desproporcionadamente a los legisladores de color con las fotografías policiales. La Unión Estadounidense de Libertades Civiles (ACLU) usó el poderoso software de identificación de imágenes de Amazon, Rekognition, para comparar fotos de miembros del Congreso con una base de datos de 25,000 sospechosos de policía.
Legisladores republicanos y demócratas de todas las edades, hombres y mujeres, se encontraban entre los desajustes. Sin embargo, las personas de color fueron desproporcionadamente mal emparejadas, según la ACLU, a pesar de que representan sólo una quinta parte del Congreso.
Estas instancias incluyeron a seis miembros del Congressional Black Caucus, entre ellos el político demócrata y líder de los derechos civiles John Lewis. En mayo, el Caucus Negro del Congreso escribió al CEO de Amazon, Jeff Bezos, para expresar su preocupación por las «profundas y negativas consecuencias no intencionales» que la vigilancia podría tener para los negros, los inmigrantes indocumentados y los manifestantes.
La ACLU ahora está haciendo un llamado al Congreso para que respalde su campaña en favor de una moratoria sobre el uso de la tecnología por parte de las fuerzas del orden, citando su experimento preocupante. «La gente de color ya se ha visto desproporcionadamente perjudicada por las prácticas policiales, y es fácil ver cómo Rekognition podría exacerbar eso», advirtió.
La organización dijo que pagó solo $ 12.33 para que Amazon Rekognition compare las fotos oficiales de cada miembro de la Cámara de Representantes y del Senado de los EE. UU. Con una base de datos de 25,000 fotos de arresto público, usando la configuración de coincidencia predeterminada.
En primer lugar, planteó preocupaciones sobre la comercialización de Amazon del servicio como una herramienta de vigilancia del gobierno en mayo. La corporación Bezos afirmó que el despliegue por parte de las agencias de aplicación de la ley era un «caso de uso común» para la tecnología y los documentos revelaron que los departamentos de policía en Orlando y el condado de Oregon, en Oregon ya usaban el sistema de reconocimiento facial en tiempo real.
Rekognition le permite a uno escanear fotografías tomadas con fotografías tomadas en tiempo real, como escenas de vigilancia o cámaras corporales. La herramienta también ha sido promocionada como un medio efectivo para detectar contenido ofensivo en línea e identificar celebridades.