El ámbito jurisdiccional es uno sólo de los tantos espacios de la vida en los que la Inteligencia Artificial se ha adentrado de forma irreversible. Su presencia en lo que muchos definen ya como el comienzo de una nueva era ha llevado a dibujar escenarios distópicos en los que las máquinas inteligentes serían capaces de superar la creatividad humana. Nos adentramos así en una materia que justificaría por sí sola una reflexión mucho más extensa de la que ahora nos ocupa. De hecho, la creciente bibliografía es bien expresiva del interés acerca de las consecuencias sociales, laborales, económicas y políticas que la IA puede acarrear en el futuro y, si precisamos algo más, está acarreando ya en el presente.

La encomiable LECrim elaborada hace ya más de ciento treinta años y que ha servido para regular el ejercicio del ius puniendi por el Estado, viene demostrando desde hace ya algún tiempo sus carencias y limitaciones. Se trata de insuficiencias que nada tienen que ver con su perfecta hechura, con la precisión de su lenguaje y con el rupturista mensaje que abanderaba su articulado. El desbordamiento de las previsiones de la LECrim al que venimos aludiendo está relacionado, fundamentalmente, con la revolución tecnológica y con el nuevo escenario de una sociedad virtual que, sin las avanzadas formas de comunicación telemática e inteligencia artificial, no puede ser entendida.

El tiempo ha puesto de manifiesto que las soluciones parciales y fragmentarias aprobadas por el legislador para hacer frente a esos desafíos no han abarcado –no podían hacerlo a la vista del ritmo al que se suceden los descubrimientos- los numerosos problemas que se han ido evidenciando.

La resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, advierte de que «…ahora la humanidad se encuentra a las puertas de una era en la que los robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial». 

La marcha hacia la implantación de soluciones algorítimicas que sirvan como instrumentos para la solución de conflictos ha de ser una marcha concertada, no ya en el ámbito nacional sino de carácter internacional

Y el Libro Blanco de la Unión Europea sobre IA, aprobado por la Comisión Europea el 19 de febrero de 2020, ya anticipa en el párrafo introductorio que «la inteligencia artificial se está desarrollando rápido. Cambiará nuestras vidas, pues mejorará la atención sanitaria (por ejemplo, incrementando la precisión de los diagnósticos y permitiendo una mejor prevención de las enfermedades), aumentará la eficiencia de la agricultura, contribuirá a la mitigación del cambio climático y a la correspondiente adaptación, mejorará la eficiencia de los sistemas de producción a través de un mantenimiento predictivo, aumentará la seguridad de los europeos y nos aportará otros muchos cambios que de momento solo podemos intuir. Al mismo tiempo, la inteligencia artificial (IA) conlleva una serie de riesgos potenciales, como la opacidad en la toma de decisiones, la discriminación de género o de otro tipo, la intromisión en nuestras vidas privadas o su uso con fines delictivos».

Pero con la misma claridad también asume que «…el uso de la inteligencia artificial puede afectar a los valores sobre los que se fundamenta la UE y provocar la conculcación de derechos fundamentales, como la libertad de expresión, la libertad de reunión, la dignidad humana, la ausencia de discriminación por razón de sexo, raza u origen étnico, religión o credo, discapacidad, edad u orientación sexual, y, en su aplicación en determinados ámbitos, la protección de los datos personales y de la vida privada, el derecho a una tutela judicial efectiva y a un juicio justo, o la protección de los consumidores. Estos riesgos pueden ser resultado de defectos en el diseño general de los sistemas de IA (especialmente en lo que se refiere a la supervisión humana) o del uso de datos que puedan ser sesgados sin una corrección previa (por ejemplo, se entrena un sistema utilizando única o principalmente datos relativos a hombres, y ello se traduce en resultados peores con relación a las mujeres).

Sin pretender ahondar en el inacabado esfuerzo dogmático de delimitación conceptual de lo que por IA debe entenderse, lo cierto es que esa tarea se complica a la vista del amplísimo panorama de funcionalidades que la IA puede llegar a ofrecer. Existe una IA que ya hemos interiorizado con absoluta normalidad y que se aplica de forma insustituible en nuestra rutina cotidiana. Son realidades ya conocidas por todos la IA aplicada a la domótica, el comercio, la investigación médica, el transporte, la empleada con fines militares o, sin ir más lejos, la que permite elegir la película que mejor se ajusta a nuestros gustos, o componer una canción capaz de competir en un concurso internacional.

En él ámbito jurídico son ya muchas las experiencias en el marco de la justicia algorítmica. Por citar sólo algunas, nos referiremos a la holandesa guía legal sobre la separación, utilizada ya por varios miles de parejas; los modelos experimentales para predecir las sentencias del Tribunal Europeo de Derechos Humanos; la herramienta jurismetria ofrecida por una multinacional que opera en España; el programa Case Francia Alfa, para predecir decisiones en materia de indemnización de daños;  el programa de algoritmos CoIn-Contract Intelligence, para interpretar acuerdos comerciales, y el sistema KIRA, para evaluar las cláusulas abusivas en los contratos. A partir de estas experiencias es evidente la potencial aplicación de algoritmos en el terreno de la justicia y, sobre todo, la necesidad de fijar algunos límites. 

Por otra parte, la presencia de fórmulas alternativas al modelo histórico de resolución de conflictos se extiende cada día más. Entre los sistemas pioneros cabe apuntar la aplicación británica que permite formalizar y resolver reclamaciones civiles por cantidades inferiores a 10.000 libras esterlinas, modelo que ha inspirado otras soluciones alternativas en materia de divorcios, testamentarías y asuntos penales de escasa relevancia. En Estonia, en el marco de la Estrategia Nacional de Inteligencia Artificial se ha posibilitado una reclamación telemática que viabiliza la resolución de conflictos contractuales no superiores a 7.000 euros. China, que avanza a pasos agigantados al uso de la IA puesta al servicio de estremecedores modelos predictivos, ha activado procedimientos judiciales en línea y digitalizados mediante el llamado «Libro blanco de la Corte Suprema de China” (Chinese Courts and Internet Judiciary).

De obligada cita es también es el software MODRIA, que permite resolver telemáticamente controversias jurídicas y que ha ampliado su limitada funcionalidad inicial, originariamente concebida para ayudar a Ebay y Paypal -plataformas concebidas para dotar de seguridad a las transacciones del comercio electrónico- a resolver las reclamaciones que realizaban sus clientes sin necesidad de abogado. Se ha consolidado así como una aplicación prejudicial para resolver pequeños conflictos que, en otros territorios, como es el caso de California, permite a las parejas en crisis matrimonial obtener una intermediación para alcanzar acuerdos en materia de división de la sociedad de gananciales, determinación de la pensión alimentaria y la custodia de los hijos. Holanda ha importado algunas de estas aplicaciones como fórmula de inspiración para resolver incluso posibles litigios transnacionales.

Incluso con el respaldo institucional de la Unión Europea se ha creado la plataforma europea para la resolución de litigios en línea. Es el resultado de un cuadro normativo integrado por la Directiva 2013/11/UE, del Parlamento Europeo y del Consejo, de 21 de mayo de 2013, relativa a la resolución alternativa de litigios en materia de consumo; y, por otro lado, al Reglamento (UE) 524/2013 del Parlamento Europeo y del Consejo, de 21 de mayo de 2013, sobre resolución de litigios en línea en materia de consumo. El Reglamento pone a disposición de las Entidades de Resolución Alternativa de Litigios en materia de consumo -entidades RAL- que cumplan con los principios de la Directiva 2013/11 una plataforma para la resolución de litigios en línea. Además de los usuarios que quieran acogerse a este singular modo de resolución de controversias, los protagonistas de la plataforma son, precisamente, las entidades RAL acreditadas por cumplir los estándares de calidad recogidos en la Directiva 2013/11. Del mismo modo, cada Estado miembro nombrará un punto de contacto de resolución de litigios en línea y deberá comunicarlo a la Comisión, pudiendo conferir esta misión a la Red de Centros Europeos del Consumidor.

Sin embargo, la falta de coordinación entre las distintas administraciones estatales y autonómicas, alguna de ellas todavía anclada en el escepticismo sobre la viabilidad inmediata de las aplicaciones de IA, puede conducir a una situación similar a la ya vivida a raíz de la implantación del expediente electrónico. En efecto, algunas comunidades autónomas han visto en la singularidad de su propio sistema informático una seña de identidad llamada a definir un peculiar punto de contraste frente a soluciones uniformes. La marcha hacia la implantación de soluciones algorítimicas que sirvan como instrumentos para la solución de conflictos ha de ser una marcha concertada, no ya en el ámbito nacional sino de carácter internacional. Se impone, pues, la necesidad de definir, en primer lugar, cimientos conceptuales y tecnológicos claros y compartidos; además, se habría de aprobar una normativa que garantice el adecuado tratamiento de macrodatos, algoritmos y los sistemas de automatización. Y todo ello aprovechando las posibilidades de colaboración y coordinación en materia de diseño, reutilización y transferencia de tecnología entre la administración de justicia y los distintos entes administrativos.

Los pasos dados por la Ley 18/2011, 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la administración de justicia y la creación del Comité Técnico Estatal para la administración judicial electrónica (Real Decreto 396/2013, 7 de junio), expresan una encomiable voluntad de armonización del proceso de implantación de una justicia abiertamente tecnologizada. Sin embargo, la experiencia pone de manifiesto que no basta buena voluntad para cabalgar decididamente hacia el futuro. La reciente aprobación del proyecto de Ley de eficiencia Digital al Servicio Público de Justicia se presenta con el objetivo de definir «…un marco jurídico de vanguardia para promover y facilitar el avance en la transformación digital de la Justicia, regulando los servicios digitales accesibles a la ciudadanía, reforzando la seguridad jurídica en el ámbito digital, impulsando su eficiencia y orientando al dato (sic) los sistemas de Justicia».

Como puede apreciarse, la presencia de la IA en el desarrollo de las rutinas más elementales de nuestra vida viene suscitando la atención de los poderes públicos de cara a elaborar un incipiente cuadro normativo que dé respuestas a los problemas que se avizoran en el horizonte. La Disposición Adicional 130 de la Ley 22/2021, 28 de diciembre, de Presupuestos Generales del Estado para el año 2022, prevé la creación de la Agencia Española de Supervisión de IA. «1. Se autoriza al Gobierno a impulsar una Ley, de acuerdo con el artículo 91 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, para la creación de la Agencia Española de Supervisión de IA en España, configurada como Agencia Estatal dotada de personalidad jurídica pública, patrimonio propio y autonomía en su gestión, con potestad administrativa».

La importancia de una agencia de supervisión de la IA se justifica por sí sola. Sería deseable que su puesta en marcha se despojara de toda tentación burocrática y que sus responsables fueran conscientes de la relevancia histórica que va a tener su función. Y es que, como se ha dicho con acierto, la estructura del razonamiento algorítmico sobre el que descansa una determinada decisión ha de someterse a un proceso que tiene tres fases claramente diferenciables: a) verificación; b) validación, y c) evaluación. Y es éste el espacio natural en el que se va a resolver todo lo que está conectado a la calidad y la transparencia de los procesos computacionales. La exigencia de unos estándares irrenunciables en el procesamiento de la información y de los datos que lleva consigo la IA servirá para asegurar la adecuada funcionalidad de los trabajos programados. Pero tan necesaria como la garantía de calidad en la definición del algoritmo es la salvaguarda de lo que ha llamado el «principio de imparcialidad del validador».

En la doctrina, ya se habla con naturalidad del «Derecho de los Robots», concebido como una nueva rama jurídica autónoma que nace para dar respuesta a los insólitos desafíos y situaciones disruptivas que empiezan a aflorar. La presencia generalizada de la robótica en la sociedad va a generar tensiones culturales, económicas y, por supuesto, jurídicas, que comienzan a desbordar los límites históricos del constitucionalismo tal y como fue concebido. La robótica lleva ínsita un «inevitable cambio de paradigma legal, que va a provocar transformaciones estructurales en el Derecho, sus instituciones y operadores jurídicos».

A lo largo de esta exposición, renunciando a objetivos metodológicos más ambiciosos, me voy a aferrar a un concepto funcional de IA, principalmente orientado al análisis de la utilidad -y los límites- de aquellos dispositivos que por su configuración técnica permiten acopiar e interrelacionar información de interés para la investigación y, en su caso, el enjuiciamiento penal. A estos efectos, puede ser valida la idea que ve en la IA el modo en que determinadas aplicaciones procesan la información de un modo automatizado produciendo resultados que denotan inteligencia. 

La necesidad de un esfuerzo de delimitación metodológica que fije en sus estrictos términos la noción de IA ha sido puesta de manifiesto por PÉREZ LUÑO. La inteligencia artificial alude al conjunto de actividades informáticas que si fueran realizadas por el hombre se considerarían producto de su inteligencia. La propia amplitud de las operaciones abarcables mediante los algoritmos que definen la IA, desde la comprensión de lenguajes naturales, el reconocimiento de imágenes o sonidos, hasta una amplia y diversa gama de juegos y simulaciones, han determinado una necesidad de acotar y delimitar su ámbito. A ello también ha contribuido la contradicción que supone predicar de entidades ajenas al hombre el rasgo humano por excelencia, o sea, la inteligencia. De ahí que hoy se aluda preferentemente a lo que es el sector más importante de la inteligencia artificial el que se refiere a los sistemas expertos. Tales sistemas incorporan, de una manera práctica y operativa, el conocimiento que posee un experto en la materia de que se trate. Consisten en programas que reproducen las actuaciones que ha previsto el experto que los diseña. Se indica que al igual que el médico dictamina en función de alojar los síntomas de la enfermedad en un cuadro de patologías, el juez mediante el silogismo de la subsunción atribuye a unos hechos tipificados las consecuencias jurídicas previstas en la norma.

En palabras de la UNESCO, en su Recomendación sobre la Ética de la Inteligencia Artificial de 24 de noviembre de 2021, «…los sistemas de IA son tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales». Y en el glosario que incorpora la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno adoptado por el CEPEJ -Comisión Europea para la eficiencia de la Justicia- en Estrasburgo, los días 3-4 de diciembre de 2018, se alude a «…un conjunto de métodos, teorías y técnicas científicas cuyo objetivo es reproducir, mediante una máquina, las habilidades cognitivas de los seres humanos».

En definitiva, se trata de aprovechar la utilidad que ofrecen los sistemas computacionales para lograr, mediante la interrelación programada de la información que almacenan, respuestas calificables como inteligentes a los interrogantes a los que pueden ser sometidos.

Hace ya más de dos décadas, la Convención de las Naciones Unidas contra la Delincuencia Organizada Transnacional, hecho en Nueva York el 15 de noviembre de 2000 autorizaba a los Estados, siempre que lo permitieran los principios fundamentales de su ordenamiento jurídico interno, la utilización de técnicas especiales de investigación, como la vigilancia electrónica o de otra índole y las operaciones encubiertas, con objeto de combatir eficazmente la delincuencia organizada (art. 20).

Nuestro interés, sin embargo, se va a centrar en las posibilidades puestas al servicio de la jurisdicción penal. Analizaremos la innovadora presencia de los algoritmos en la investigación penal, sobre todo, a raíz de la reforma operada en la LECrim por la LO 13/2015, 5 de octubre. La inteligencia forense ha dado pie a una investigación que en nada se parece a los modelos convencionales históricos. Nos detendremos en la audacia de algunos sistemas -es el caso de la fiscalía de Shanghái- que ya han dado paso a la formulación de escritos de acusación por IA; aludiremos a las utilidades de la IA al servicio de abogados y procuradores y abordaremos la pregunta obligada: ¿puede sustituir un robot al juez llamado a dictar sentencia? Concluiremos con una referencia final a la responsabilidad predicable de los errores de las máquinas inteligentes que generen daños personales o materiales.

* El texto forma parte de la ponencia ‘Inteligencia artificial y jurisdicción penal’ que el presidente de la Sala Segunda del Tribunal Supremo pronunció con motivo de su ingreso, como académico de número, en la Real Academia de Doctores el pasado 26 de octubre.