¿El algoritmo musical discrimina a las mujeres?

• Hablamos con una de las mayores expertas en España en inteligencia artificial: Nuria Oliver
• Además, la cantante y compositora Brisa Fenoy nos cuenta cómo le afecta a ella el algoritmo
• Analizamos la situación que viven las artistas en la semana de la mujer de RTVE

Nuria Oliver: "El algoritmo se tiene que modificar para contrarrestar el sesgo de los datos"

Detrás de los rostros femeninos más reconocidos de la música también hay toda una industria donde las mujeres aún no son tratadas en igualdad de condiciones que sus homólogos. Es de sobra conocido la falta de paridad en las programaciones musicales de los festivales, la desigualdad salarial o la denuncia del techo de cristal. El machismo, al igual que en ocurre en otras industrias, está muy presente en la música. En la semana de la mujer, rescatamos algunos datos que evidencian el sesgo que se aplica desde el algoritmo que aplican plataformas como Spotify o Youtube.

Algo que en su día ya mencionó Rosalía en una entrevista que concedió a los Billboard: “Un remix en el que la mujer es la main, porque claramente tiene más tiempo en la canción que el resto de hombres participantes, pero luego hay artistas grandes que tienen muchos números y que por algoritmo interesa que ellos estén como main y ella como featured. Eso hace que ellos tengan todo el beneficio mecánico de las proveedoras digitales pero ella no lo tenga."

Esta desigualdad de género en la industria de la música internacional se expande a todos los sectores dentro de uno de los negocios más importantes del mundo: discográficas, festivales, premios, salas de conciertos, productoras musicales… y ahora también el algoritmo.

Hablamos con la experta en inteligencia artificial y algoritmos, Nuria Oliver, para que nos aclare si Rosalía y otras mujeres dentro de la industria tienen razón en sus denuncias. Ella es doctora en Inteligencia Artificial por el MIT (Instituto Tecnológico de Massachusetts), cofundadora de la Asociación Europea de Inteligencia Artificial y, desde finales de marzo, Comisionada por la Presidencia de la Generalitat Valenciana en Estrategia de Inteligencia Artificial. En resumen, una de las mujeres investigadoras en informática más citadas en nuestro país.

P: ¿Qué significa una discriminación algorítmica?

R: Normalmente se define un atributo protegido que puede ser: el sexo, la edad, la raza… Suelen ser categorías sensibles. Un algoritmo se considera que discrimina en función del valor de ese atributo protegido que se comporta de manera diferente para ejemplos que en todas las otras dimensiones serían iguales. Eso quiere decir que está tratando de manera desigual a los datos simplemente por tener valores diferentes en ese atributo protegido. Eso es un fenómeno que está demostrado empíricamente en muchos ejemplos.

"Hay técnicas para que algoritmo vea el mismo número de mujeres que de hombres"

El caso concreto al que Rosalía hace referencia creo que es más de recomendaciones, donde los algoritmos tengan un sesgo en las recomendaciones que están dando, queriendo decir que recomiendan menos contenido de artistas femeninos que masculinos. Los mecanismos por los que puede pasar esto en todos los casos es similar. Es porque todos estos algoritmos están entrenados a partir de datos. Si la realidad subyacente ya tiene un sesgo, es decir, si ya hay muchos más artistas masculinos que femeninos y en consecuencia ya hay mucha más gente que escucha artistas masculinos que femeninos, los algoritmos aprenden esos patrones porque son entrenados con esos datos. Si no se toman medidas para intentar evitar que reproduzcan esos patrones existentes, o que incluso lo magnifiquen, esos algoritmos los reproducen. Dudo que en ningún caso sea algo consciente o algo intencionado. Es el resultado de sesgos algorítmicos. ¿Cómo contrarrestarlos? Hay muchas técnicas. El primer paso es que hay que detectarlo. Después hay técnicas para que algoritmo vea el mismo número de mujeres que de hombres y no vea un 90% masculino y un 10% femenino. Tú puedes decir a los ejemplos de hombres les doy un peso de 0,1 y a los de mujeres les doy un peso de 100. Dentro de los sistemas de recomendación de Youtube y Spotify hay otra área entera que se llama la diversidad en los algoritmos. Técnicamente se pueden diseñar algoritmos para que las recomendaciones tengan diversidad y esa diversidad podría ser de género.

P: “Las oportunidades ya están igualadas, solo es cosa de saber qué hacer con ellas”, dice José Luis Fernández, ingeniero de grabación de Sony Music y ex A&R de Universal Music Group. ¿Es el usuario al final el que es machista y el algoritmo le da al usuario lo que quiere?

R: Al final hay un algoritmo que es el que está decidiendo lo que tú ves. Ese algoritmo, en la inmensa mayoría de los casos, está entrenado para maximizar la probabilidad de que lo que te recomienda sea lo que clicas. Porque lo que las plataformas quieren es que tú pases el máximo número de tiempo posible usándolas. Partiendo de esa base, un artista independiente del que apenas hay información va a ser muy difícil que el algoritmo lo recomiende porque no tiene información para saber si la gente va a clicar ahí o no. El problema es que los algoritmos aprenden de la información histórica, aprenden del comportamiento de la gente en el pasado. Suelen tener un sesgo hacia lo que ya es popular. ¿Qué pasa con los artistas nuevo? Que no hay información sobre ellos y de nuevo si el algoritmo no tiene en consideración una dimensión de novedad entonces va a recomendar lo que ya es popular. Es muy difícil romper esa burbuja de la popularidad si no hay detrás un incentivo económico para promocionarla, que es lo que hacen muchas veces; pagan para que se promocione y aparezca arriba en las recomendaciones. Porque hay ese sesgo de que primero el contenido promocionado. Si tú eres un artista independiente tampoco tienes mucho dinero para patrocinar tu propio contenido. Las grandes discográficas si lo tienen, pero patrocinan a lo que les interesa. Entonces es muy difícil romper esa barrera.

"No es que haya un programador que diga: si tiene nombre de mujer elimínala"

P: Al final entonces no se trata tanto de un algoritmo machista. Esta es una mala definición. ¿La culpa no la tiene el algoritmo sino la sociedad o la industria musical?

R: El algoritmo no ha sido diseñado para ser machista. No es que haya un programador que diga: si tiene nombre de mujer elimínala. Lo que sucede es que la realidad subyacente no es simétrica con relación al sexo en muchas disciplinas y los algoritmos aprenden de los datos. En los últimos años ha empezado a medirse el hecho de que efectivamente pueden tener sesgos y pueden estar perjudicando a ciertos grupos con ciertos atributos protegidos como el sexo, la raza, etc. Desgraciadamente los datos que hay serán que el 90% de los artistas en la categoría musical de Rosalía son hombres. Me lo estoy inventando, pero se puede sacar la estadística. Entonces claro, el algoritmo lo que hace es que ve ejemplos de lo que la gente consume y ve que el 90% son hombres. No es que sea machista, es que lo ve y dice pues por probabilidad recomienda un hombre. Por eso el algoritmo se debe modificar, para contrarrestar el sesgo.

"Es importante medir qué están haciendo los algoritmos e intentar modificarlos"

P: Rosalía señalaba en la misma entrevista que: "las mujeres no tenemos el beneficio mecánico de las proveedoras digitales de música". Y puso el siguiente ejemplo: "Me ha llamado la atención cómo cuando una mujer participa en una colaboración, aunque tenga el mayor tiempo en una canción, suelen poner su nombre en el segundo o tercer lugar. " ¿Esto hace que el algoritmo no la tome en cuenta y sea más difícil escuchar más voces femeninas?

R: Ese es otro tema. Ahí sí que puede que sea una decisión humana. El hecho de que haya muchos más artistas masculinos viene de factores sociales. El hecho de que esos artistas masculinos tengan mayor acceso a patrocinadores o a discográficas que les promocione, eso es un factor obviamente de la industria y social que desgraciadamente también existe en otras disciplinas. Entonces partimos de una situación de asimetría. Si encima de esa situación de desigualdad, usamos algoritmos que están entrenados en esa situación de desigualdad, pues estos replican la desigualdad ya existente o incluso muchas veces la magnifican. Al final todos estos factores contribuyen negativamente para la visibilidad y la promoción de las artistas femeninas.

P: El hecho de que haya muy pocas programadoras mujeres, ¿influye en el algoritmo?

R: Repito, dudo muchísimo que haya un programador en Spotify que haya puesto en el programa de ordenador: si es mujer ignórala. Lo que sucede es que los equipos que han hecho estos algoritmos, aunque yo creo que esto va a cambiar, no han hecho un análisis de hasta que punto el algoritmo tiene sesgos y no se ha intentado compensar esta situación de desigualdad. ¿Si los equipos de programadores fuesen más diversos, se habrían dado cuenta de esto o habrían hecho algo para corregirlo? La hipótesis es que sí. Porque equipos más diversos aportan diferentes visiones. Desgraciadamente la diversidad de género en el sector tecnológico brilla por su ausencia. En España el porcentaje de chicas que estudian informática actualmente es un 12%, cuando a mediados de los 80 rozaba el 40%. Ha disminuido progresivamente desde los años 80. Por lo tanto, el grandísimo reto que tenemos ahora es implementar acciones y medidas bastante ambiciosas para conseguir atraer a más chicas hacia las carreras tecnológicas.

"En España el porcentaje de chicas que estudian informática actualmente es un 12%"

P: ¿Cuáles son las soluciones?

R: Yo propongo desde hace años la introducción de una asignatura troncal, transversal y obligatoria desde primero de primaria que se llama pensamiento computacional. Desde mi punto de vista es lo equivalente a saber leer y escribir, pero en el siglo XXI. Si todos los niños y niñas desde 1º de primaria supiesen pensamiento computacional, conseguiríamos eliminar el sesgo de género con relación a la tecnología. Luego otras acciones importantes son las destinadas a romper estereotipos.

Si yo ahora te digo que cierres los ojos y te imagines a una persona cuyo trabajo es programar, probablemente no te imagines a alguien como yo, sino a un chico con gafas, gordito en un sótano haciendo cosas raras y con pocas habilidades sociales. Ese estereotipo no es atractivo para nadie y es un estereotipo que no se corresponde con la realidad. Pero tampoco se corresponde con la realidad el estereotipo de en qué consiste el trabajo de ser programador. En realidad ser programador te permite trabajar en cualquier sector, pero eso no es lo que se comunica. Además, también hay estereotipación con respecto a cómo se enseñan las carreras técnicas. Tienen una metodología y unos currículums muy masculinos. Luego hay también acciones relativas a combatir nuestros propios sesgos de género. Todos y todas sufrimos un sesgo de género, éste nos hace infravalorar a las mujeres en igualdad de condiciones que los hombres. Esto hace, por ejemplo, que chicas que tienen los mejores expedientes en los institutos decidan no estudiar una ingeniería o informática porque tienen fama de ser muy difícil y se piensan que no van a ser buenas. Porque se aplican ese sesgo de género a ellas mismas.

"En muchas de estas empresas hay una cultura muy machista y misógina que es aceptada"

Luego hay otra serie de acciones relacionadas con la retención de las mujeres en el sector tecnológico. Muchas mujeres se marchan del sector tecnológico después de que están trabajando en él. ¿Por qué? Porque en muchas de estas empresas hay una cultura muy machista y misógina que es aceptada y que causa que muchas mujeres no puedan más y se vayan. Eso se tiene que combatir con legislación muy estricta, penalizando los comportamientos sexistas. Uno de los sectores tecnológicos con una misoginia más fuerte es el de los videojuegos. Donde las pocas diseñadoras de videojuegos que hay les hacen la vida imposible: se ríen de ellas, las insultan… Se llama la cultura brogrammer, la cultura de las fraternidades de EEUU trasladada a la programación.

Brisa Fenoy: "La industria da más prioridad a los hombres"

Por otra parte, hemos querido irnos al lado de la artista. Charlamos con Brisa Fenoy de esta tema y no nos ha decepcionado. La cantante es muy consciente de lo que dice Rosalía y también tiene su opinión al respecto.

P: "En la industria de la música latina sigue habiendo un problema sistémico, que impide que las mujeres tengan las mismas oportunidades de crecer y el mismo éxito que los hombres." ¿Qué opinión te merecen las palabras de Rosalía sobre el algoritmo machista en la música latina?

R: Si ella hace una canción con un montón de chicos que son mucho más potentes que ella, más conocidos, entiendo que la industria los nombre más a ellos. Otra cosa es lo de que en la industria de la música; en cartelería, en Youtube…pongan más a hombres que a mujeres. Eso claro que me parece horrible.

Brisa Fenoy: "Hay una censura mayor a la mujer, sin duda"

P: ¿Cuál es la realidad en Spotify y Youtube? ¿Crees que se favorece a los artistas sobre las artistas dentro de las plataformas de streaming?

R: Eso es así. Pero en el algoritmo yo lo veo como que no es algo de machismo o no machismo. Es algo de que si tú tienes más números, el algoritmo te va a posicionar a ti. Pero sí que la industria da más prioridad a los hombres, no los critican tanto, le dan más cabida en festivales, en premios y le dan más cabida en todo.

"Hay artistas que pagan miles de euros en anuncios de Youtube para que su tema tenga más reproducciones"

P: “Las mujeres tenemos que estar siempre demostrando, luchando por lo que nos pertenece, poniéndonos a prueba continuamente", señalaba Rosalía. ¿La culpa la tiene el algoritmo, la sociedad o la industria musical?

““

R: Tenemos que luchar el cuádruple para estar, y aún así, casi que ni consigues estar. El tema del algoritmo en concreto lo veo más culpa del sistema capitalista. Uno tiene éxito, pues lo posicionan mejor. Uno tiene más views y el algoritmo encima lo sube más. Y es como, no, dadle más a los pequeños. ¿Qué pasa que porque no te vean tanto, porque no has pagado miles de euros por estar ahí, ya no puedes llegar? Porque esa es otra. Los anuncios de Youtube se pagan. Sé de artistas que pagan miles de euros en anuncios de Youtube para que su tema nada más salir tenga millones de reproducciones. Eso hace que te posicionen lo primero. Al final si tú no pagas, no te ve nadie el videoclip. Por ejemplo, yo en un tema mío puse 500 euros y eso te da unos 8.000 clicks por estimación. Pero también es contraproducente porque si dejas de pagar, el algoritmo lo sabe y dice oye: tú a mi me has pagado, vuélveme a pagar. Entonces te mueve mucho menos y en Instagram pasa lo mismo. Pero sí, si quieres jugar o competir en la industria mainstream tienes que tener mucho dinero detrás. Todo es un monopolio de intereses. Se compran seguidores, se compra hasta colaboraciones. Pero bueno es una manera de la industria para ser popstar. Luego está el camino independiente que se construye poco a poco.

P: Si al final tenemos una industria musical que posiciona en lo más alto a los hombres y discrimina a la mujer. ¿Repercute esto en que en general en que haya menos mujeres por esa dificultad de destacar?

R: La industria musical posicionará antes a hombres si les conviene, si tiene más números y si mueven más. Si una mujer mueve mucho y tiene mucho público también la moverán. Si hablamos del inicio, hay una dificultad mayor para destacar, hay una crítica mayor siendo mujer sin duda, hay una censura mayor a la mujer sin duda. Luego entra en juego el dinero. Si no tienes inversores, dinero, grandes compañías que apuesten por ti como objetivo también es otro hándicap. O sea que ser mujer y también el capital.

"Hay un problema estructural de tener que hacer todo por y para tener éxito"

P: ¿Acabarán las mujeres haciendo más cosas con hombres o para hombres por el hecho de tener más repercusión?

R: Eso sería moverse por el poder. Quien se quiera mover así en su vida, quien quiera hacer todo para venderse por conseguir fama, éxito y dinero, que sepa que se está moviendo por el poder y por este sistema. Si quieres jugar a ese juego, juega. Yo no voy a jugar. Yo, por ejemplo, nunca he hecho ningún featuring con un hombre, menos con John Gray, porque yo luego no distingo entre hombres y mujeres. Pero hay un problema estructural de tener que hacer todo por y para tener éxito. Para mí el éxito es el de uno mismo, el de hacer las cosas como queramos y ser libres. Siempre siendo fieles a nosotras mismas. Pero si te apetece hacer una colaboración porque es tu amigo o te gusta lo que hace, hazlo. Pero no lo hagas por el algoritmo o porque él es más famoso que tú. A mí me ha dicho mucha gente famosa de hacer featuring conmigo y yo no he querido. Podía haberlo hecho y seguramente ahora tendría muchos más seguidores. Porque los mensajes que dice, su música o su manera de ser no me late. No lo voy a hacer por la fama. Al final veo que la industria todo el mundo hace con todo el mundo porque tiene más seguidores, porque tiene más éxito.

P: ¿Qué papel juegan aquí las discográficas?

R: Hacer con este me conviene y ahora con este otro… No lo conozco de nada, no me gusta su música, ni la he escuchado en mi vida, pero lo voy a hacer porque es el objetivo de tal discográfica. Para que a mí me guste alguien y su música a lo mejor no es ese que me ponen en el objetivo la discográfica. En conclusión, todo se mueve por intereses. Luego también depende de a quién le chupes el culo. Cuando a mí me pasó lo de “Lo malo”, se pusieron como sanguijuelas, me salieron amigos hasta de debajo de las piedras. Todo el mundo me llamaba, todo el mundo quería colaborar conmigo. ¿Dónde está toda esa gente ahora? Yo no era feliz. Me decían todo el rato: ahora tienes que hacer esto, ahora te vamos a mandar a Miami, ahora vas a hacer esto con este… No, no, yo no voy a hacer nada de esto porque yo necesito sentirme cómoda, colaborar en eso, admirar eso. Yo quiero ser dueña de mi música y controlar mi carrera.