Las dictaduras digitales, una amenaza cada vez más real

• El historiador y escritor Yuval Noah Harari advierte de los escenarios distópicos incipientes
• Un mundo dominado por los relatos polarizantes se aboca a un precipicio social
• El desarrollo tecnológico autoregulado, una de las principales amenazas

Imagen extraída del segundo episodio de la cuarta temporada de El cazador de cerebros

Una sociedad controlada las 24 horas del día, donde la actividad cerebral, el ritmo cardíaco y los otrora imperceptibles micro gestos de cada ser humano son procesados y analizados por algoritmos a los que es imposible engañar: existir nos delata. Gobiernos, instituciones y empresas privadas que usan esta información para secuestrar nuestra atención, manipular nuestras ideas y sentimientos y hackearnos el cerebro.

La tecnología necesaria ya existe. Las inteligencias artificiales son capaces, hoy mismo, de interpretar los patrones existentes en cúmulos de ingente información. La dilatación de las pupilas, la vacilación en nuestra navegación web, el comportamiento online, cada 'me gusta' y cada segundo extra viendo vídeos de gatitos, de accidentes, de bailes... Avanzados algoritmos dan sentido a esta información que se usa a favor del mejor postor. ¿El objetivo? Engancharnos a sus plataformas, modificar nuestras opiniones y sentimientos y, en última instancia, manipular nuestras acciones. Compras, ideas, creencias... y votos.

“¿Quién decide sobre la regulación y el avance de las capacidades tecnológicas? Ahora mismo, muy pocas personas. “

¿Cómo evitar que esa tecnología se consolide en las manos de un ente autoritario que elimine de facto el libre albedrío? ¿Quién delimita los usos de estos importantes, pero peligrosos, avances? ¿Quién decide sobre la regulación y el avance de las capacidades tecnológicas? Ahora mismo, muy pocas personas. Mayoritariamente, hombres blancos, y según Yuval Noah Harari "un número realmente pequeño de personas en Occidente, un pequeño número de ingenieros, emprendedores y gente de negocios. El gobierno y los votantes apenas están involucrados [en estas decisiones]". El panorama es un desarrollo tecnológico con un potencial demostradamente dañino que avanza sin control.

La visión, aquí resumida, del historiador, escritor best-seller y una de las mentes más influyentes del mundo, aún no contemplaba los efectos de la pandemia cuando fue entrevistado a finales de 2019 por 'El cazador de cerebros'. Sin embargo, lo que describía Harari era, ya entonces, tremendamente sombrío. La interesante entrevista se puede volver a ver dentro del episodio correspondiente en RTVE a la carta aunque también existe una versión íntegra de la misma.

Una cuestión de relatos

"El poder humano depende de la cooperación. Para conseguir que un gran número de personas coopere, necesitas una historia que todo el mundo crea", explica Harari en sus libros y durante la entrevista en 'El cazador de cerebros'. Las corrientes ideológicas, las religiones, los valores, el valor del dinero... todo son ficciones que decidimos creer para progresar en sociedad.

Los humanos adoramos los relatos. Desde que apareció la comunicación humana, las historias que nos contamos son las herramientas más potentes que tenemos para trasladar conocimientos de generación en generación, de tribu en tribu. Las ficciones que coincidimos en creer nos han conformado como sociedades, han propiciado revoluciones sociales, han dado origen a diferentes culturas aglutinadoras -y también a conflictos.

“"El poder humano depende de la cooperación. Para conseguir que un gran número de personas coopere, necesitas una historia que todo el mundo crea"“

No hay datos empíricos, objetivos y validados que valgan: una ficción, un buen relato, puede convencer a cualquier persona dispuesta, especialmente si se le confirman sus propias ideas preconcebidas. Pero Yuval Noah Harari es el único en poner de relieve las ficciones como principal vía de entrada a nuestras convicciones:

• El psicólogo y científico cognitivo Steven Pinker nos explicaba en una entrevista la tendencia del cerebro en creer en esos relatos donde se enfrentan el bien y el mal. El bien, siempre, representando aquella idea con la que se nos quiere convencer.
• Chris French, el psicólogo británico experto en la psicología de las creencias, contó cómo nuestro sistema de creencias está más influenciado por nuestro particular sesgo de confirmación y nuestras emociones de lo que creemos (minuto 22:30):

Cuando un ente interesado tiene a su disposición la información necesaria para saber en qué cree un ser humano en concreto y la tecnología para llegar de forma precisa a él, es escalofriantemente fácil manipularlo con un relato concreto. El caso de Cambridge Analytica es uno de los mayores ejemplos de esta capacidad. Hoy en día hay ficciones a la carta y son más fáciles que nunca de distribuir eficazmente.

Las plataformas tecnológicas tienen el poder de ser agentes manipuladores, pero la mayoría de veces son meros facilitadores. "Hay una batalla por la atención. No les importa el mensaje. Quieren retenerte en su plataforma para poder venderte más anuncios. Los mensajes extremos son mucho mejores en captar la atención que otros más moderados", apunta Harari.

“"Hay una batalla por nuestra atención. No les importa el mensaje. Quieren retenerte en su plataforma"“

De ahí, el éxito de las famosas 'Fake News' dirigidas a las personas más susceptibles de ser radicalizadas en sus convicciones, más dispuestas a compartir los contenidos, ampliando las opiniones sesgadas. Teorías conspiratorias que validan nuestras propias creencias, realidades alternativas y relatos tendenciosos alineados con nuestras sospechas, mensajes de odio y publicaciones encendidas con discursos de fondo con los que estamos de acuerdo... Son mucho más apasionantes y fáciles de retuitear que una mera nota informativa, periodísticamente correcta... pero aburrida. Especialmente si esta desentona con nuestros prejuicios.

Quién quiera utilizar ese poder para lanzar su relato, solo tiene que pagar una tarifa al Facebook, Instagram, Amazon, Google, Apple o Microsoft de turno. Nadie escapa de esa 'targetización': jóvenes, mayores; de izquierdas y de derechas.

Vídeo resumen del segundo capítulo de la 4ª temporada de El Cazador de Cerebros con la entrevista a Harari

Las amenazas del futuro

Si no se produce ningún cambio importante que lo impida, la humanidad se dispone a sucumbir totalmente a los tres mayores retos a los que se enfrenta. La crisis climática, por un lado, la crisis laboral a la cual nos dirige una automatización descarnada que margine una potencial 'clase inútil', por otro, y una revolución tecnológica sin regulación que desemboque en una crisis social y que ponga en entredicho la misma democracia.

Hoy por hoy, una dictadura digital tiene el potencial tecnológico para materializarse y no hay suficiente regulación para impedirlo. Sin embargo, añade Harari, aún hay margen de maniobra: podemos tomar decisiones diferentes:

El mundo necesita, más que nunca, que se tomen las riendas de esta revolución acelerada que experimenta en tantos ámbitos diferentes, no para frenarla, lo cual es imposible, pero si para darle un cauce ético y socialmente justo. Asegurarse, al fin y al cabo, que no destruye la humanidad y el planeta a su paso. Es necesario intervenir, volver a recuperar el poder de elección, libre de influencias, sobre nuestra propia mente. Retomar el poder de decisión sobre el progreso tecnológico. Dárselo también a agentes no interesados, elegidos democráticamente, con capacidad y voluntad de reflexionar sobre las consecuencias de cada paso.

El episodio 'Las amenazas del futuro'

La conversación con Yuval Noah Harari se incluye en el segundo episodio de la cuarta temporada de 'El cazador de cerebros', a la carta. También está disponible una versión íntegra de la entrevista a Harari en Youtube. 'El cazador de cerebros' se emite cada lunes en La 2 a las 19:50 h