El proyecto IVERES de Inteligencia Artificial presenta los primeros resultados en la lucha contra la desinformación

• El acto se ha celebrado en la sede del Parlamento Europeo en España, en Madrid
• IVERES es un proyecto liderado por RTVE y la Universidad Autónoma de Barcelona (UAB), financiado por el Ministerio de Ciencia e Innovación
• Reúne a investigadores de la Universidad Autónoma de Barcelona, Universidad Carlos III de Madrid, la Universidad Politécnica de Cataluña, la Universidad de Granada y RTVE

Participantes Proyecto de verificación IVERES

El proyecto IVERES de Inteligencia Artificial, liderado por RTVE y la Universidad Autónoma de Barcelona (UAB), ha presentado este jueves en Madrid los primeros resultados en la lucha contra la desinformación, coincidiendo con la tramitación en el pleno del Parlamento Europeo de la primera ley que regulará el uso de la Inteligencia Artificial.

La Oficina del Parlamento Europeo en Madrid ha celebrado el encuentro “Ciencia y tecnología ante la desinformación en Europa. Proyecto IVERES”. Para Damián Castaño, jefe de prensa de la Oficina, “la nueva ley significa un paso muy importante y posiblemente estará disponible durante la presidencia española de la UE y deberá ajustarse a los principios y valores de los países miembros”. Verónica Ollé, directora del Gabinete de la Presidencia de RTVE, ha puesto el énfasis en la conveniencia de alejar el temor a las nuevas tecnologías, “mientras no se pierda de vista que los ciudadanos tenemos derecho a una información veraz, reconocida constitucionalmente”. Por su parte, Mª Ángeles Ferre González, jefa de la Subdivisión de Programas Temáticos Científico-técnicos de la Agencia Estatal de Investigación ha resaltado la oportunidad de la colaboración público-privada y la acción decidida de la Agencia por impulsar proyectos que supongan un avance en la lucha contra la desinformación.

Pere Vila, director de Estrategia Tecnológica de RTVE ha defendido la bondad del trabajo multidisciplinar conjunto que representa el proyecto IVERES, cuyo objetivo es proporcionar una herramienta de inteligencia artificial en español que ayude para la verificación de audios, imágenes y textos y permita conocer su autenticidad, entre otras utilidades y ha reclamado a instituciones y empresas que “inviertan en conocimiento para que cada vez haya más ingenieros e ingenieras formados para abordar los nuevos desafíos a los que se enfrenta la sociedad”.

En este sentido, Borja Díaz-Merry, responsable de VerificaRTVE ha explicado cómo se están aplicando ya en la redacción de Torrespaña diversas herramientas de verificación, con muy buenos resultados. Después de indicar que “los desinformadores están muy bien preparados”, ha instado a “disponer del mayor número posible de herramientas para que los equipos de investigación puedan equilibrar la balanza y puedan luchar eficazmente y rápidamente contra las falacias”.

La jornada ha servido para dar a conocer los avances en el desarrollo del proyecto IVERES. Santiago Tejedor, de la UAB y codirector del proyecto, ha explicado el trabajo de su equipo en internacionalizar las claves del periodismo de verificación y la necesidad de realizar un gran esfuerzo pedagógico “si queremos evitar que la IA se vea como un enemigo”. Respecto de la investigación en monitorado de redes sociales, José María Álvarez de la UC3M, ha reconocido la dificultad en distinguir las verdades de las falsedades, si bien hay un consenso en considerar que estamos delante de un problema de gran magnitud y en concreto, en su área de investigación, “aumentado por los modelos de IA en lenguaje generativo, que son una locura”.

Los otros dos campos de estudio son audio y vídeo. De la investigación en audio dentro del proyecto IVERES se encarga la Universidad de Granada, para Zoraida Callejas, los Deep-fakes de audio” se estudian a través de la investigación de síntesis profunda del habla y la Inteligencia artificial conversacional y sus aplicaciones”, situando el principal peligro en la posibilidad de suplantación de personalidad a través de un uso malicioso de la tecnología, mostrando algunos ejemplos de clonación y manipulación experimental de la voz de personalidades públicas. Una tarea realizada en colaboración con la empresa Monoceros Labs. Y respecto de las imágenes, la UPC está investigando en colaboración con otros centros internacionales, sobre cuyos resultados ha mostrado algunos ejemplos. Para Francesc Tarrés, la veracidad de imágenes y vídeos “es una preocupación de primer orden internacional. Un desafío que crece y que precisa de herramientas muy potentes y sofisticadas para desenmascarar la manipulación”.

En la intervención de clausura, el director de Eurovisión News Exchange, Emilio San Pedro, ha explicado el esfuerzo que Eurovisión realiza a diario para realizar comprobaciones de veracidad, “usando todas las herramientas de fact-checking a nuestro alcance”. Ha cerrado el encuentro recordando que “estamos ante algo de una dimensión tremenda” y que una de las claves del éxito estará en la creación de una comunidad de ámbito europeo que una sus esfuerzos para combatir la desinformación. El acto ha sido presentado por Montserrat Rigall, miembro del equipo de IVERES.

Proyecto IVERES

IVERES “Identificación, Verificación y Respuesta. El estado democrático ante el reto de la desinformación interesada” https://iveres.es/ es un proyecto liderado por RTVE y la Universidad Autónoma de Barcelona (UAB), financiado por el Ministerio de Ciencia e Innovación dentro del programa estatal de I+D+I orientado a los retos de la sociedad en el marco del plan estatal de investigación científica y técnica y de innovación 2017-2020. Reúne a investigadores de la Universidad Autónoma de Barcelona, Universidad Carlos III de Madrid, la Universidad Politécnica de Cataluña, la Universidad de Granada y RTVE.