Por una inteligencia artificial responsable: el reto de la alineación

• El alineamiento o alignment pretende confluir lo que se quiere que hagan los sistemas y lo que verdaderamente van a hacer
• Cada vez son más los expertos que alertan del peligro que supone la inteligencia artificial para la humanidad si no se controla a tiempo

Imagen de un sistema de inteligencia artificial

En 1942, el bioquímico y escritor Isaac Asimov enunció en su libro Círculo vicioso las tres leyes de la robótica, consideradas base ética del desarrollo de sistemas inteligentes autónomos: un robot no hará daño a un humano, ni por inacción permitirá que un ser humano sufra daño; un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley; y un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Ochenta años más tarde, esta declaración de intenciones sigue siendo igual de vigente que ahora. La irrupción de la inteligencia artificial ha avivado el debate sobre su poder, tremendamente positivo para revolucionar campos como la medicina, pero también con un potencial destructivo que no hay que menospreciar.

De Asimov al Chat GPT: una nueva era digital

Geoffrey Hinton, padre de la IA y voz crítica sobre este tema, asegura en ‘El Cazador de Cerebros' que el año pasado se asustó: "me di cuenta de que habíamos generado algo que, como era digital, podría acabar siendo mucho mejor que el cerebro”. Si su capacidad va más allá de la mente humana, significa que, en algún momento, se podría perder el control sobre estas máquinas, cada vez más autónomas, más inteligentes y más libres.

La propuesta principal para garantizar su buen funcionamiento recae en el alineamiento, en buscar que las acciones de la IA estén en consonancia con los valores sociales. En mayor o menor medida, las empresas ya están intentando enderezar la IA a sus propias visiones comerciales y éticas, pero es una tarea problemática, “no todos los valores son los mismos y pueden alinearse dos valores opuestos, pero incluso es complicado si partimos de los más positivos para llegar a ese equilibrio”, apunta Hinton.

Un reto mayúsculo

Además, cabe tener en cuenta que los investigadores están trabajando con las herramientas artificiales actuales, en un campo que no deja de innovar y de dar resultados increíblemente revolucionarios. El reto es mayúsculo, porque no invertir suficiente tiempo o recursos en la definición de una estrategia equilibrada de valores pone en la cuerda floja cuestiones de gran magnitud, como la seguridad, la confidencialidad, el impacto social, la recopilación masiva de datos o la reproducción de sesgos, entre otros. No solo son problemas difíciles de resolver, sino que todavía es pronto para tener un buen calibre del alcance real de estas transformaciones y de su repercusión en las tecnologías futuras.

Geoffrey Hinton y Pere Estupinyà en 'El Cazador de Cerebros'

La atención que requiere la alineación en la creación de nuevos modelos a menudo choca con las necesidades del mercado y de las propias empresas. Ejemplo de ello es la controversia suscitada en los últimos meses en OpenAI, la empresa creadora de ChatGPT. En noviembre de 2023 hubo un intento de cese de Sam Altman, el consejero delegado de la corporación, por su “exceso de temeridad”. Con la recuperación de su puesto, el drama empresarial solo ha hecho que dilatarse, provocando hace pocas semanas la disolución del departamento completo de superalineación, menos de un año después de su creación. Algunos miembros del equipo habían denunciado que OpenAI prioriza la creación de productos nuevos a la seguridad, y pidieron certificar su validez antes de comercializar sistemas tan avanzados. 

Sobre el papel de este sector, Hinton apunta que “al desarrollar una tecnología más inteligente que nosotros, deberíamos aspirar a intentar mantener el control de alguna forma y conseguir que sea benigna, pero no sabemos cómo. Deberíamos centrar todos nuestros esfuerzos antes de que sea demasiado tarde”.