El uso de la inteligencia artificial en el sistema judicial

La Comisión Europea ha establecido un texto que recoge los principios éticos sobre el uso de la inteligencia artificial (IA) en el sector judicial, para regular así el uso de la misma en los procedimientos judiciales.

La CEPEJ

La Comisión Europea para la Eficacia de la Justicia (CEPEJ), creada el 18 de septiembre de 2002, está compuesta por expertos de los 46 estados miembros del Consejo de Europa, encargados de establecer un nuevo organismo para incrementar la calidad y la eficiencia del sistema judicial europeo y aumentar la confianza de los usuarios.

Las tareas que este organismo desempeña son:

• Analizar los sistemas judiciales

• Identificar las dificultades que encuentran los sistemas judiciales
• Definir maneras concretas de mejorar la evaluación de los resultados y el funcionamiento de los sistemas judiciales
• Proporcionar ayuda a los estados miembros
• Proponer a las instancias competentes del Consejo de Europa, las áreas en donde sería deseable elaborar un instrumento jurídico nuevo.

(fuente: Poder Judicial España)

La Primera Carta Ética que define una serie de valores sobre el uso de la inteligencia artificial en el sector judicial

El documento redactado y adoptado por la Comisión Europea para la Eficacia de la Justicia (CEPEJ) establece los principios éticos relacionados con el uso de la inteligencia artificial (IA) en los sistemas judiciales.

La carta proporciona unos principios que actúan como directrices para garantizar un marco ético y jurídico adecuado para que los responsables políticos, los juristas y los profesionales de la justicia, puedan gestionar el uso de la inteligencia artificial en los procesos judiciales nacionales, de forma rápida y eficaz.

Este documento es la primera herramienta europea y mundial que establece cinco principios sustanciales y metodológicos que se aplican al tratamiento automatizado de las decisiones y de los datos judiciales, a partir de técnicas de inteligencia artificial.

¿Por qué una carta para regular la utilización de la inteligencia artificial en los sistemas jurídicos?

Después de haber constatado que la inteligencia artificial es una herramienta útil y capaz de contribuir a mejorar la eficiencia y la calidad del trabajo de los tribunales europeos, la Comisión Europea ha visto necesario crear una carta ética para regular el uso de esta nueva tecnología en los sistemas jurídicos.

Como se lee en el comunicado de prensa del 25 de abril de 2018, difundido por el parlamento europeo, Inteligencia artificial: La Comisión presenta un enfoque europeo para impulsar la inversión y establecer directrices éticas, “la inteligencia artificial (IA) no es ciencia ficción: forma ya parte de nuestra vida cotidiana, desde el uso de un asistente personal virtual para organizar nuestra jornada hasta la sugerencia de canciones que nos aparece en nuestro teléfono. Aparte de facilitarnos la vida, los sistemas inteligentes nos ayudan a resolver algunos de los principales desafíos mundiales: el tratamiento de enfermedades crónicas, la lucha contra el cambio climático y la previsión de las amenazas de ciberseguridad. La IA es una de las tecnologías más estratégicas del siglo XXI”.

 

En el ámbito judicial, la Comisión Europea ha querido regular la utilización de la inteligencia artificial para que fuera utilizada de forma responsable, asegurando el respeto de los derechos fundamentales garantizados por el Convenio Europeo de Derechos Humanos (CEDH) y la protección de los datos personales.

Para la CEPEJ es fundamental garantizar que la inteligencia artificial siga siendo una herramienta al servicio del interés general y que su uso se realice respetando los derechos individuales.

 

Los cinco principios

Para regular el uso de la inteligencia artificial en el ámbito jurídico, la CEPEJ ha identificado como básicos los siguientes principios:

• Principio del respeto de los derechos fundamentales: asegurar que el diseño y la aplicación de las herramientas y los servicios basados en inteligencia artificial sean compatibles con los derechos fundamentales;
• Principio de no discriminación: evitar concretamente el desarrollo o la intensificación de cualquier tipo de discriminación entre individuos o grupos de individuos;

• Principio de calidad y seguridad: con respecto al procesamiento de decisiones y datos judiciales, utilizar fuentes certificadas y datos intangibles con modelos concebidos de manera multidisciplinar, en un entorno tecnológico seguro;
• Principio de transparencia, imparcialidad y equidad: hacer que los métodos de procesamiento de datos sean accesibles y comprensibles, permitiendo auditorías externas;
• Principio “bajo el control del usuario”: impedir un enfoque prescriptivo y garantizar que los usuarios sean actores informados y tengan el control de sus propias

(Texto original en inglés aquí)

 

¿A quién está dirigida esta carta?

La carta está dirigida a las empresas privadas (como las startups que operan en el mercado de las nuevas tecnologías aplicadas a los servicios jurídicos) y a los organismos públicos encargados de la planificación y la implementación de herramientas y servicios de inteligencia artificial en este ámbito. Además, se dirige a las administraciones públicas responsables de la elaboración de medidas y herramientas legales y a los operadores jurídicos.