Justicia algorítmica y derecho de defensa
Por Pablo Contreras, profesor Universidad Central y Elena de Luis, profesora Universidad de Valencia.
La inteligencia artificial (IA) y las herramientas de justicia predictiva son una realidad de la cual no podemos escapar.
Son indudables las ventajas que presentan en términos de coste y tiempo para la administración de justicia, e incluso en determinadas ocasiones pueden contribuir a alcanzar un resultado más objetivo.
Sin embargo, son también visibles los potenciales riesgos que entrañan para los derechos y garantías fundamentales del proceso. Algunas características como la opacidad, la falibilidad o el coste de las herramientas pueden afectar irremediablemente al derecho de defensa y la contradicción procesal.
Se debe conjugar eficiencia y eficacia, de modo que podamos gozar de las ventajas que nos ofrecen estas nuevas herramientas, pero sin que ello conlleve una merma. Atender a los beneficios que aportan estas herramientas, no implica aceptar un uso indiscriminado. Su rol es auxiliar a la adopción de decisiones administrativas y judiciales e, incluso, pueden contribuir a objetivarlas.
Una crítica recurrente a los sistemas de IA es la opacidad de los algoritmos, pues puede conllevar a que las partes desconozcan cómo se ha obtenido el resultado y, como consecuencia, no puedan impugnar adecuadamente.
Si partimos de la afirmación de que nadie puede defenderse de aquello que desconoce, será necesario que la parte afectada por la resolución adoptada con el apoyo del algoritmo sepa cómo defenderse del mismo. Para ello, deberá poder cuestionar su diseño, su funcionamiento, así como los resultados de su operación.
Si hace unos años nos preguntábamos sobre la validez de una declaración por videoconferencia, ahora hemos dado un paso más en el desarrollo tecnológico y, del mismo modo que se hizo en su momento, debemos lograr ese equilibrio entre la eficiencia que aporta y el respeto de los principios y garantías básicos del proceso.
Se presenta la difícil tarea de configurar el proceso judicial de manera que podamos beneficiarnos de todas las ventajas que la IA ofrece sin que conlleve una merma de los derechos fundamentales de las partes.