Un nuevo panel intergubernamental de expertos fiscalizará la inteligencia artificial para velar por su seguridad

• Estará inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC, en inglés)
• Es la medida más importante acordada en la cumbre de seguridad sobre IA que se ha celebrado en Reino Unido

Ministros y autoridades de diferentes países han participado la cumbre de seguridad de la IA.

Un nuevo panel internacional, inspirado en el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC, en inglés), fiscalizará los avances de la inteligencia artificial (IA) para velar por la seguridad de esa nueva tecnología, ha anunciado este jueves el primer ministro británico, Rishi Sunak.

En una rueda de prensa al concluir la cumbre de seguridad global sobre IA en Bletchley Park (Inglaterra), Sunak ha detallado que "la comunidad internacional al completo ha estado de acuerdo con esta idea", que cuenta con el respaldo del secretario general de la ONU, António Guterres, presente en el encuentro.

Los 28 países que han participado en la cumbre, entre los que se cuentan Estados Unidos y China, además de otros europeos como Alemania, Francia y España, se han comprometido a "nominar expertos" para ese grupo, que publicará regularmente un informe sobre el estado de desarrollo de la inteligencia artificial.

Posibles "direcciones imprevistas" de la IA

Por su parte, el secretario general de la ONU ha alertado este jueves de que existe la posibilidad de que el desarrollo de la inteligencia artificial (IA) avance en "direcciones imprevistas" y pueda llegarse a "perder el control" de los sistemas. "La velocidad y el alcance de la tecnología actual de IA no tiene precedentes. La paradoja es que, en el futuro, nunca volverá a moverse tan lentamente como ahora", ha dicho Guterres en un discurso en esta cumbre.

Para abordar sus riesgos son necesarias "nuevas soluciones", pero no "nuevos principios", ha recalcado el secretario general, que ha defendido basar las normas de gobernanza de la IA en la Carta de Naciones Unidas y la Declaración Universal de los Derechos Humanos. "Durante el pasado año, hemos visto el lanzamiento de potentes modelos de IA con pocas consideraciones respecto a la seguridad y las salvaguardas para los usuarios", ha dicho Guterres.

"Cada vez que eso ocurre, incrementa el riesgo de que esa tecnología se utilice de manera maligna por criminales, o incluso por terroristas, de que mine la seguridad o la integridad de la información, de que la gente pierda su control y de que se pueda desarrollar en direcciones imprevistas", ha agregado.

El secretario general de la ONU, Antonio Guterres, en la cumbre sobre seguridad de la IA en el Reino Unido. EFE / EPA / TOLGA AKMEN

"Consecuencias negativas a largo plazo"

Asimismo, ha subrayado la posibilidad de "consecuencias negativas a largo plazo", como interferencias con los mercados laborales y las economías globales, así como una "pérdida de diversidad cultural" que puede derivarse de los sesgos y los estereotipos incorporados a los algoritmos. A más corto plazo, Guterres ha pedido "acciones inmediatas" para evitar que la emergencia de la inteligencia artificial exacerbe las "enormes desigualdades que ya aquejan a nuestro mundo".

"Eso no es un riesgo, es una realidad -ha afirmado-. Un informe reciente ha determinado que no hay ningún país africano en el 'top 50' en cuanto a preparación ante la IA", y 21 de los 25 países con menor puntuación están en África, ha dicho el máximo responsable de la ONU. Al mismo tiempo, ha resaltado el "enorme potencial" de las nuevas tecnologías para contribuir a desarrollar las economías que "todavía se están recuperando de la pandemia de covid-19 y están luchando contra una montaña de deuda".