Amazon e IBM pausan el desarrollo de tecnología de reconocimiento facial para la policía por sus sesgos racistas

• Ambos gigantes tecnológicos instan a su regulación en el Congreso
• Grupos pro derechos civiles aseguran que esta tecnología invade la privacidad de los ciudadanos y puede perpetuar sesgos

La técnica de reconocimiento facial, basada en la Inteligencia Artificial, suscita polémicas por su invasión de la privacidad y la repitición de sesgos racistas

Amazon ha anunciado este martes que prohibirá durante un año entero a los cuerpos de Policía usar su tecnología de reconocimiento facial, como respuesta a las protestas de justicia racial y contra la brutalidad policial en Estados Unidos después de que un agente blanco de Minneápolis matara al ciudadano negro George Floyd, asfixiándolo al inmovilizarlo.

La decisión de Amazon tiene lugar solo dos días después de que otro gigante de la tecnología, IBM, anunciase que se retira del negocio de reconocimiento facial, supuestamente también como respuesta a las críticas por el sesgo racial de esta técnica basada en la Inteligencia Artificial.

Piden al Congreso que implemente "las reglas adecuadas"

En mensaje escueto en el blog oficial de la compañía que dirige Jeff Bezos, se explicita que la decisión es en realidad una "moratoria" de un año para que el Congreso tenga tiempo de "implementar las reglas adecuadas" para su uso por parte de las fuerzas de la ley.

Amazon no ha detallado cómo forzará la aplicación de la prohibición, aunque es probable que lo haga negándose a ofrecer sus servicios a los cuerpos de Policía y eliminando el apoyo técnico a aquellos que ya dispongan de esta tecnología.

La firma con sede en Seattle, en el estado de Washington, EE. UU., ha manifestado que, tras el asesinato de Floyd y la consecuente oleada de protestas a lo largo y ancho del país, "parece que el Congreso está preparado para asumir el desafío" de regular el uso de las técnicas de reconocimiento facial.

Mientras se impulsan normas y criterios para su uso ético, no obstante, Amazon ha precisado que seguirá permitiendo el uso de la tecnología por los clientes que ayudan a las fuerzas del orden frente a la trata de personas.

“IBM: "Creemos que ahora es el momento de iniciar un diálogo nacional"“

Por su parte, el director general de IBM, Arvind Krishnar, dirigió una carta al Congreso estadounidense. "IBM se opone firmemente y no aprobará el uso de ninguna tecnología [de reconocimiento facial] para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas, o cualquier otro propósito que no sea coherente con nuestros valores", escribió Krishnar, y añadía en la misma línea que Amazon: "Creemos que ahora es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales de aplicación de la ley y cómo hacerlo".

Una tecnología polémica

El año pasado, San Francisco (EE. UU.) se convirtió en la primera gran ciudad del país en prohibir el uso de técnicas de reconocimiento facial a todas las agencias locales, entre ellas la Policía, una tecnología cada vez más empleada por las autoridades para identificar a criminales y ante las que las organizaciones proderechos civiles advierten de sus riesgos.

Gobiernos y agencias de seguridad de todo el mundo hace años que utilizan las técnicas de reconocimiento facial (capaces de identificar a individuos mediante inteligencia artificial) para tareas como identificar a criminales, ayudar en las tareas de búsqueda de menores desaparecidos y prevenir el fraude documental.

Sin embargo, los grupos en defensa de los derechos civiles aseguran que esta tecnología invade la privacidad de los ciudadanos de forma excesiva, a la vez que puede perpetuar sesgos policiales contra minorías étnicas, ya que se ha probado que tiende más al error con personas de piel oscura y, al estar basados en datos humanos, repiten las ideas racistas de la sociedad.

En este sentido, un estudio llevado a cabo en 2018 por la Unión Estadounidense de Libertades Civiles (ACLU, en inglés) halló que el reconocimiento facial había identificado incorrectamente a 28 congresistas de EE. UU. (en su mayoría pertenecientes a minorías étnicas) como criminales al comparar sus fotografías con imágenes policiales.

Nicole Ozer, directora de tecnología y libertades de una sucursal de la ACLU en California, ha pedido a "Microsoft y otros que se unan a IBM, Google y Amazon para avanzar en el lado correcto de la historia". Y es que, ya en enero, en un discurso en Bruselas, el jefe de Google, Sundar Pichai, explicó que Google no ofrecería un servicio de reconocimiento facial hasta que las autoridades establecieran normas y salvaguardias.