El Vaticano ve la IA como una oportunidad y advierte que está en manos de pocas y poderosas empresas

• El extenso documento Antiqua et nova destaca en sus 117 párrafos los desafíos y oportunidades de la IA
• La Santa Sede recuerda que el desarrollo tecnológico debe estar "al servicio de la persona y del bien común"

Los dicasterios de Cultura y Doctrina de la Fe plantean "desafíos y oportunidades" de la inteligencia artificial en una declaración conjunta. ARCHIVO EFE

El Vaticano ha publicado este martes el documento Antiqua et Nova que reflexiona sobre la Inteligencia Artificial (IA), a la que considera "una oportunidad" aunque advierte de sus peligros como, por ejemplo, "que está en manos de pocas y poderosas empresas", así como el uso equivocado que le pueden dar los estudiantes o aumentar la difusión de noticias falsas.

El extenso documento que consta de 117 párrafos lleva por titulo Antiqua et Nova en referencia a la "sabiduría, antigua y nueva". Es una reflexión de los dicasterios (equivalente a "ministerios") vaticanos de Doctrina de la Fe y de Cultura junto con las palabras del papa Francisco sobre el tema. El texto nace ante la necesidad de "exhortar a cuantos tienen el encargo de transmitir la fe (padres, profesores, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente".

Antiqua et Nova analiza los desafíos y oportunidades del desarrollo de la IA en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales y las relaciones interpersonales o en las guerras.

Necesidad de juicio moral y decisión ética

Por ejemplo, se explica que "la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos".

“Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano“

Pues, añade, "los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son gran motivo de preocupación ética porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética". Y concluye: "ninguna máquina debería elegir jamás poner fin a la vida de un ser humano".

En manos de pocas y poderosas empresas

En el documento se suscita además la preocupación del hecho de que "la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas", lo que hace que "esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector".

El documento recuerda el grave riesgo de que la IA "genere contenidos manipulados e información falsa" y aún más preocupante "es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”.

Complementa a la inteligencia humana, no la sustituye

En cuanto a las relaciones humanas, el documento observa que la IA puede "fomentar las conexiones" pero, al mismo tiempo, conducir a un "aislamiento perjudicial" y alerta de que ”también plantea problemas particulares para el crecimiento de los niños". Cita como ejemplo cuando se representa a la IA como una persona, "lo que es una grave violación ética", o "utilizar la IA para engañar en otros contextos -como la educación o las relaciones humanas, incluida la esfera de la sexualidad- es profundamente inmoral y requiere una cuidadosa vigilancia”.

Asimismo, aunque "puede mejorar el acceso a la educación", el documento vaticano lamenta que muchos programas "se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos y esto conduce "a una pérdida de formación para acumular información o desarrollar el pensamiento crítico" o divulgar "informaciones distorsionadas o artificiales" o "contenidos inexactos".

“La IA puede ser más seductora que los ídolos tradicionales“

El documento insta a que "no debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico" pues al hacerlo "la humanidad se perjudicaría a sí misma". El Vaticano también afirma que "la presunción de sustituir a Dios por una obra de las propias manos es idolatría" y que "la IA puede ser más seductora que los ídolos tradicionales". Y una de las conclusiones es que "la IA sólo debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazar su riqueza".