Justicia artificial: pros y contras de un algoritmo que podría dictar sentencias

• Filósofos, jueces y expertos en inteligencia artificial (IA) recelan de la sustitución total de las decisiones humanas por algoritmos
• Los que están a favor argumentan que la IA elimina las influencias políticas y económicas que distorsionan el sistema judicial

La balanza es el símbolo del reparto justo y la equidad.

La inteligencia artificial (IA) se ha infiltrado también en el sistema judicial. Los problemas de lentitud, ineficacia y politización atribuidos a las administraciones de justicia occidentales impulsan el uso de los algoritmos en estas instituciones.

Prometen neutralidad, independencia y eficacia, eliminando sesgos y emociones en las decisiones judiciales. Sin embargo, jueces y expertos cuestionan todas estas bondades y alertan de lo imprescindible de una mirada crítica y precavida sobre estos procesos de automatización y de la datificación de nuestras vidas de la que dependen.

La inteligencia artificial llega a la justicia

Desde hace aproximadamente una década, la inteligencia artificial ha venido infiltrándose en cada uno de los ámbitos de nuestras vidas. En los últimos años, el impacto de los algoritmos ha provocado importantes efectos económicos y sociales en todo el mundo. Ahora el sistema judicial también se ha visto afectado por la inteligencia artificial que todo lo invade.

Desde hace no demasiado tiempo, algunos países han implantado algoritmos de IA en la Administración de Justicia como apoyo, bien para calcular la probabilidad de reincidencia o para recuperar información de las grandes bases de datos de legislación y jurisprudencia. Pero hasta el momento, no se ha ido más allá.

Sala de tribunal con leyenda lex DOCUMENTOS TV

Sin embargo, ante sistemas judiciales como los nuestros, considerados lentos, ineficaces y politizados, los algoritmos encuentran su gran oportunidad para impulsarse y ganar terreno en las instituciones judiciales. Y para paliar estas deficiencias la IA promete una justicia más neutral, menos sesgada e independiente del poder político. Una situación perfecta, según opinan algunos expertos y juristas, en la que podríamos sentirnos tentados a echar mano de estos sistemas matemáticos a gran escala.

Un juez sin emociones ni corazón

Cualquier juez en un tribunal debe decidir si un individuo es o no culpable y qué tipo de condena se le debe imponer. La IA promete un incremento exponencial de la eficiencia y de la neutralidad en la toma de decisiones. Pero ¿puede un sistema carente de emociones decidir si alguien es culpable o inocente?

Luciano Floridi es filósofo de la Universidad de Oxford. DOCUMENTOS TV

“Podrían equilibrar o servir de contrapeso a las deficiencias humanas“

Sus partidarios consideran que toda la tecnología digital tiene enormes ventajas. "Podrían equilibrar o servir de contrapeso a las deficiencias humanas", señala el filósofo de la Universidad de Oxford, Luciano Floridi. Además, cree en su mayor objetividad ya que los algoritmos no se ven afectados por la naturaleza emocional del ser humano.

“Las emociones humanas son una parte clave de todas nuestras decisiones“

Sin embargo, para aquellos que piensan que hay que ser cautos con la incorporación de la IA en este ámbito, como es caso del filósofo de la Universidad de Bonn, Markus Gabriel, "las emociones humanas son una parte clave de todas nuestras decisiones, incluidas las relativas a la justicia". “Y eso es difícilmente detectable por un algoritmo, porque un algoritmo no es capaz de detectar las razones por las cuales se producen las conductas humanas", afirma inapelable, el magistrado del Tribunal Superior de Galicia, Luis Villares.

Markus Gabriel, filsofo de la Universidad de Bonn. DOCUMENTOS TV

¿Sin sesgos, sin ideología, sin influencia política?

Las emociones no son la única causa que puede afectar a la objetividad de los jueces. Aquí entrarían en juego los sesgos por género, por ideología o por creencia religiosa.

La gran promesa de la IA ante estos fallosen la interpretación de los datos que podrían afectar a la toma de decisiones judiciales son la neutralidad y la imparcialidad política. "Y este es el argumento más sencillo para demostrar que en el ámbito legal no puede existir una inteligencia artificial neutral, porque alguien diseña el software", advierte Gabriel.

“En el ámbito legal no puede existir una inteligencia artificial neutral, porque alguien diseña el software“

En otras palabras, estaría totalmente sesgado por los datos que se introduzcan y por quienes los produzcan. "Yo, desde luego, no estoy dispuesto a asumir que un sistema condene preventivamente", sentencia el juez Villares.

Luis Villares es magistrado del Tribunal Superior de Xustiza de Galicia. DOCUMENTOS TV

“Nuestras vidas, intereses y hábitos se han convertido en fuente de datos para entrenar y desarrollar sistemas de IA“

La gran transformación digital que la inteligencia artificial plantea, necesita de la minería masiva de datos "Estamos siendo testigos del experimento social más importante, jamás visto en la historia de la humanidad", asegura Floridi. Nuestras vidas, intereses y hábitos se han convertido en fuente de datos para entrenar y desarrollar sistemas de IA.

Una inquietante transformación digital

Y el problema aparece cuando la datificación de la realidad se rige por una escala de valores muy concreta, la de conseguir la máxima eficiencia. Porque "¿qué tipo de poderes se legitiman y se imponen cuando nuestro sistema de valores está todo él atravesado por la eficiencia?", advierte la filósofa de la Universidad Abierta de Cataluña, Marina Garcés.

Marina Garcés, filósofa de la Universitat Oberta de Catalunya. DOCUMENTOS TV

"Un sistema de inteligencia artificial solo está diseñado para ser nuestra herramienta y probablemente para hacer lo que la cultura dominante quiere que hagamos", sostiene Gry Hasselbalch, una de los miembros del Grupo de Expertos de la UE sobre Inteligencia Artificial. De forma que, si se lleva demasiado lejos, la rebeldía y el pensamiento crítico desaparecerán, opinan los especialistas. "Para mí, la IA tiene un riesgo que es disfrazar de neutralidad tecnológica lo que es una realidad ideológica", apunta el magistrado del Tribunal Superior de Galicia.

“No estoy dispuesto a asumir que un sistema condene preventivamente“

Observaciones como estas llevan a posicionarse sobre la postura que se ha de tomar en la introducción de estos sistemas en instituciones tan esenciales para la sociedad como es la judicial y, por ende, a una cuestión mucho más personal: ¿Estaríamos dispuestos a ser condenados por un juez algorítmico?