Sesgos y violencias machistas de la IA: "No me da miedo la tecnología, me da miedo la maldad humana"

• Los algoritmos contienen sesgos de género que perjudican a mujeres en procesos laborales y económicos
• En 2021, el 80% de los nuevos doctores en IA fueron hombres
• 'Inteligencia Artificial' en Objetivo Igualdad, el domingo a las 14:25h en Canal 24 horas

Imagen de la Inteligencia Artificial generada con Inteligencia Artificial

La inteligencia artificial está transformando nuestro mundo a nivel económico, sanitario, laboral o social. Sin embargo, los algoritmos en los que se basa esta tecnología no se libran de muchos sesgos presentes en nuestra sociedad, incluido el de género. Además, existe poca legislación en relación a estas nuevas herramientas, más incluso cuando hablamos de Inteligencia Artificial generativa. Esta última está dando lugar a usos perniciosos que violentan a mujeres y niñas.

Caso Almendralejo

Una de las noticias más llamativas que conocimos en septiembre de 2023 tuvo lugar en Almendralejo, Badajoz. Un grupo de menores desnudó con Inteligencia Artificial a más de 20 chicas de su entorno. La hija de Miriam Al Adib, ginecóloga y divulgadora en redes sociales, es una de las afectadas. “Me dijo que esto le ha pasado a ella y a un grupo de chicas y que hay varios chicos compartiendo estas imágenes por Internet", nos cuenta.

Después de aquello, Al Adib difundió en redes sociales la noticia, mandando un mensaje de apoyo para las jóvenes afectadas y otro a los chicos advirtiéndoles de que estaban cometiendo un delito: “El miedo que teníamos es que las subieran a plataformas de pornografía”. Se lamenta de que a día de hoy no saben hasta donde han llegado esas imágenes.

““El miedo que teníamos es que las subieran a plataformas de pornografía"“

Lo cierto es que, aunque estas aplicaciones tienen en principio sistemas de seguridad, es sencillo mezclar imágenes reales con falsas. Así nos lo explica el profesor de derecho digital Borja Adsuara: “No sería bueno que se hiciera antes la ley que la innovación, porque no se puede regular algo que no se ha inventado". Confiesa que él no teme a la tecnología, lo que le da miedo es “la maldad humana”.

Herramientas legales

El reciente borrador de ley sobre IA de la Unión Europea tardará años en materializarse, pero se trata de una regulación pionera en el mundo. Por ahora se han dado una serie de líneas generales sobre las que legislar, poniendo sobre la mesa los riesgos y las garantías con los que deben contar los sistemas de IA para proteger los derechos e intereses de los ciudadanos de la unión.

Nuria Oliver, experta en IA y directora de la empresa Ellis Alicante, señala uno de los puntos que considera más interesantes: que el contenido generado sintéticamente quede claramente identificado como tal. Para ella, uno de los usos más preocupantes que se están viendo con este tipo de tecnología es la porno venganza o ‘revenge porn’. Consiste en poner la cara de una persona, en la mayoría de los casos mujeres, en vídeos pornográficos. “Es un delito perseguible, pero muchas veces el daño reputacional ya está hecho”, nos explica.

“"Muchas veces el daño reputacional ya está hecho”“

Adsuara recalca que desde la reforma de 2015 del Código Penal ya es posible condenar los ciberdelitos: “Casos como el de Almendralejo ya están previstosen el delito de seudopornografía infantil”.

Hay que educar en igualdad a las máquinas

Sesgos de género

En sus informes, el Instituto de las Mujeres alerta del riesgo de estereotipación por parte de la IA. No solo hay sesgos de género, también raciales y con otras minorías. Una de las posibles causas es el perfil de quienes están detrás del diseño de estos algoritmos. “De las personas expertas en IA en el mundo, solo un 12% somos mujeres”, nos confirma Nuria Oliver.

“"Solo un 12% de personas expertas en IA somos mujeres"“

La UNESCO también alerta de la homogeneidad de este grupo. En 2021, casi el 80% de los nuevos doctores en IA eran hombres. Otro de los principales problemas son las bases de datos que se usan para esta tecnología. “Los cogen de la web y sabemos de sobra que en la web hay datos más ligados al género femenino y otros al masculino", alerta Sandra Garrido, coordinadora de tecnología en la Universidad de Diseño y Tecnología (UDIT).

Esta última puede ser la causa de que cuando una IA genera imágenes de “nurse” (que en inglés significa indistintamente enfermera o enfermero) muestre solo a mujeres, y cuando se le piden de CEO (presidenta o presidente ejecutivo) sean todo hombres.

Pero las implicaciones son mayores porque estos sesgos afectan también cuando se utiliza esta tecnología para hacer cribados de currículums a la hora de contratar o cuando deciden la idoneidad de un cliente para recibir un préstamo bancario.

El sesgo de género en los algoritmos: "Es relativamente sencillo quitarlo, el problema es que no se hace"

Ética y justicia algorítmica

Garrido considera que, aunque los beneficios de la IA sean muchos, hace falta una legislación fuerte “que nos proteja” a las mujeres y que esté alineada con los retos y desafíos que se están planteando.

En el master de Inteligencia Artificial de la UDIT, en el que es docente, cuentan con una asignatura sobre ética y legislación. El objetivo es que los futuros profesionales de la IA programen estos sistemas con responsabilidad y conciencia.

Oliver por su parte habla de la importancia de continuar avanzando en la investigación de lo que se conoce como justicia algorítmica. Una disciplina que lucha por una IA que no caiga en sesgos de ningún tipo.

Sin embargo, en lo que están de acuerdo todas es en la importancia de educar a las generaciones presentes y futuras. Al Adib considera que lo que ocurrió en Almendralejo pasa en todo el mundo, pero que las víctimas no se atreven a denunciar o no saben cómo hacerlo. Insiste en formar a las instituciones para que sepan cómo atender a las mujeres que se vean afectadas en violencias similares.

““Si con esto corremos un tupido velo, ¿qué harán el día de mañana?”“

No obstante, la clave para ella está en los más jóvenes. Cree que los que generaron las imágenes desnudas de su hija y de una veintena de chicas no son conscientes de la gravedad del delito que han cometido. Pide que haya tolerancia cero con este tipo de agresiones y que se reconduzca a estos chicos, desde su punto de vista “recuperables”. “Si con esto corremos un tupido velo, ¿qué harán el día de mañana?”, se pregunta.