Yuval Noah Harari: "La inteligencia artificial puede quedar fuera de nuestro control"

• Después de vender 25 millones de ejemplares de sus libros anteriores, el escritor israelí regresa con su nuevo ensayo, 'Nexus'
• En él repasa cómo se ha construido el mundo alrededor de las redes de información, hasta llegar a los algoritmos actuales

El historiador, filósofo y escritor israelí Yuval Noah Harari. PENGUIN RANDOM HOUSE

El historiador, filósofo y escritor israelí Yuval Noah Harari siempre se ha mostrado receloso ante el poder de los algoritmos desarrollados por las grandes corporaciones, aunque esta desconfianza nunca había sido tan intensa como ahora, coincidiendo con la explosión de la inteligencia artificial, una tecnología con capacidad para repercutir prácticamente en todos los ámbitos de la vida humana. "La inteligencia artificial es distinta de cualquier otra tecnología que se haya inventado antes", asegura, y recalca que, a diferencia de otras "amenazas" anteriores, como la bomba atómica, ya "no se trata de una herramienta" en la que son las personas las que deciden qué hacer con ella, sino que es "un agente independiente capaz de tomar decisiones por sí mismo". "Puede quedar fuera de nuestro control", advierte.

Después de vender más de 25 millones de copias de sus libros anteriores, especialmente 'Sapiens, de animales a dioses', convertido en uno de los mayores fenómenos editoriales de los últimos años y traducido a 65 idiomas, Harari regresa a las librerías con 'Nexus' (Debate), un nuevo ensayo en el que analiza cómo el ser humano ha ido construyendo el mundo alrededor de las redes de información, hasta llegar a los poderosos algoritmos actuales que tienen su máxima expresión en la inteligencia artificial. "Hay un potencial totalitario en la inteligencia artificial como nada que hayamos visto antes", señala el historiador en rueda de prensa telemática desde Washington, ante más de cien de periodistas.

“La inteligencia artificial permite una vigilancia total, y aniquilar la privacidad.“

Según el autor, la "inmensa capacidad" de la inteligencia artificial para recoger y analizar información hace posible por primera vez el viejo anhelo de todo dictador: un "régimen de vigilancia completa que anule la privacidad". "El tirano no puede saber lo que cada ciudadano hace o piensa en cada momento del día, aunque los regímenes totalitarios intentan precisamente controlar la totalidad de la vida en cada momento", explica Harari, quien cree que la tecnología actual ha derribado esas limitaciones. "La inteligencia artificial permite una vigilancia total, y aniquilar la privacidad, ya que puede gestionar una ingente cantidad de información y reconocer patrones", mantiene, y agrega que es una práctica que su país, Israel, "ya está llevando a cabo en los territorios ocupados" con "cámaras, drones, siguiendo a todo el mundo todo el tiempo...". También pone el ejemplo de Irán, donde las autoridades utilizan software de reconocimiento facial para identificar a mujeres que no llevan velo y castigarlas. "No es un escenario de ciencia ficción que pueda suceder dentro de 100 años. Está sucediendo ahora", incide.

"No hemos visto nada todavía"

Harari reconoce que la inteligencia artificial aún presenta un alto grado de inmadurez y tiene errores, pero cree que solo "estamos en los primeros pasos" y "no hemos visto nada todavía". Haciendo un símil con la evolución biológica que se ha desarrollado sobre la Tierra durante miles de millones de años, Harari asegura que los actuales modelos de inteligencia artificial son "amebas". "La evolución orgánica es lenta, pero la de la inteligencia artificial es millones de veces más rápida", continúa, y se pregunta: "Si ChatGPT es una ameba hoy, ¿cómo será cuando se convierta en dinosaurio, algo que pasará dentro de 10 o 20 años?".

Otra de las aparentes contradicciones a las que ha llegado el mundo actual de la mano del silicio y el algoritmo es ese gran campo minado por los bulos y la desinformación en el que se han convertido las redes sociales. "Tenemos la tecnología de la información mas importante de la historia", y sin embargo "no se está diseminando la verdad", reflexiona el escritor israelí, dejando claro que en realidad él no ve ninguna paradoja, ya que "la información no es conocimiento", y tampoco es sinónimo de "verdad". "Tenemos un montón de información, pero la gente no sabe más", expone, para calificar como "basura" la mayor parte de esa información que se vierte en redes sociales.

“"Si ChatGPT es una ameba hoy, ¿cómo será cuando se convierta en dinosaurio, algo que pasará dentro de 10 o 20 años?“

"La verdad es cara. Escribir un reportaje cuesta tiempo y dinero, mientras que la ficción es barata", continúa, para añadir que "la verdad es complicada porque la realidad es complicada, y la gente prefiere historias sencillas antes que complicadas". "Si queremos que prevalezca la verdad, tenemos que invertir en ella, creando instituciones académicas, medios de comunicación... Si no se hace, la verdad quedará enterrada por la mala información", advierte.

"Tenemos la tecnología de la información mas importante de la historia", asegura Harari. GETTY IMAGES

"La gente tiene derecho a la estupidez"

En esta misma línea, Harari considera que "actualmente, los medios de comunicación más poderosos son las redes sociales", y por ello "las empresas deberían responsabilizarse de sus contenidos". "Los medios tienen un poder ingente para destruir la democracia o protegerla [...] Y hoy este poder está en manos de los grandes gigantes: Facebook, Instagram, Twitter... Y en manos de sus algoritmos", mantiene, aunque deja claro que "el problema no son los humanos, sino los algoritmos, porque deciden promover ciertos contenidos que benefician a la empresa". "Corresponde a la decisión del algoritmo que millones de personas estén expuestas a la mentira o a la verdad, y las grandes corporaciones deberían responsabilizarse de ello", recalca.

“Corresponde a los algoritmos que millones de personas estén expuestas a la mentira o a la verdad, y las grandes corporaciones deben responsabilizarse de ello.“

"La gente tiene derecho a la estupidez, a decir una mentira, ya que forma parte de la libertad de expresión. Tenemos que ir con mucho cuidado a la hora de censurar", prosigue, y critica una vez más el funcionamiento de las corporaciones, porque "el modelo de negocio de estas empresas se basa en la implicación del usuario, y quieren que la gente pase más tiempo en la plataforma, para vender más anuncios y recabar más datos que luego pueden vender a terceros". "Los algoritmos de las empresas han descubierto que la manera más fácil de captar la atención humana es pulsar el botón del miedo o del odio o de la rabia, lo que hace que la gente se implique y esté más tiempo en la plataforma", dice. "Este es el problema, y de eso sí que tendrían que ser responsables las empresas, porque esto no es libertad de prensa", reflexiona.

“Los algoritmos de las empresas han descubierto que la manera más fácil de captar la atención humana es pulsar el botón del miedo o del odio o de la rabia.“

Sin embargo, Harari también quiere extraer una lectura positiva del enorme poder que están adquiriendo los algoritmos. "Sin duda, la inteligencia artificial tiene un potencial enorme", dice, y destaca que "puede darnos la mejor atención sanitaria del mundo", algo especialmente necesario si se tiene en cuenta "la falta de médicos que hay en muchos países". También pone el ejemplo de la conducción autónoma: "Cada año hay más de un millón de personas que mueren por accidentes de tráfico en todo el mundo, la mayoría por errores, y la inteligencia artificial puede salvar ese millón de vidas, porque ni bebe ni se duerme al volante". "No digo que haya que detener el desarrollo de esta tecnología, sino garantizar que sea segura", concluye.