Más avanzado en la línea de la decisión autónoma es Prometea, desarrollado por un equipo en el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires. El piloto, lanzado en 2017, se centró en la decisión de amparos habitacionales que llegan al Tribunal; esto es, el recurso mediante el cual se pide al gobierno una vivienda digna, y posteriormente se ha implementado a casos de bonificaciones en empleo público, ejecución de multas no pagadas, negación de licencias de taxi por antecedentes penales, y denuncias por violencia de género, entre otros. En estos casos, la contribución de Prometea es analizar el texto del recurso y las actuaciones previas, verificar la presencia de ciertas palabras clave que han sido preconfiguradas en el sistema, y predecir la respuesta apropiada a la solicitud: por ejemplo, el dictamen que debe rendir la Fiscalía en un amparo habitacional. Posteriormente, el sistema organiza un borrador de la decisión o dictamen, y le hace algunas preguntas al operario judicial para ajustar el documento, que es finalmente revisado por un humano. Según su desarrollador, Prometea tendría una precisión de 96% en su predicción.
Prometea ha mostrado ser interesante para otras instituciones de la región. La Corte Constitucional colombiana, por ejemplo, anunció en 2019 que implementaría una solución de inteligencia artificial para el proceso de selección de tutelas, basado en Prometea. El sistema, llamado PretorIA, fue lanzado en agosto de 2020 e interviene en un momento procesal clave para la protección de los derechos fundamentales. De todas las decisiones de acciones de tutela decididas en Colombia, la Corte Constitucional escoge algunas para su revisión, con el fin de fijar o avanzar su jurisprudencia. Sin embargo, este proceso de selección es dispendioso: en Colombia se deciden alrededor de 600.000 tutelas al año, las cuales definen el universo de escogencia; esto es, en promedio, 130 tutelas al día. A pesar de que hasta el momento el piloto de PretorIA se ha centrado en una fracción de esos casos, relacionados con el derecho a la salud (que representan cerca de la mitad de tutelas de Colombia), el sistema estaría en capacidad de ayudar a la Corte a buscar entre las decisiones de instancia, categorizarlas según criterios decididos por la Corte, y elaborar estadísticas. En ese sentido, PretorIA no realiza predicciones ni proyecta decisiones, a diferencia de Prometea, sino que está pensado más como una herramienta para que la Corte pueda hacer un triage en el amplio universo de sentencias de instancia, para así escoger las que irían a revisión.
¿Máquinas de justicia?
Estos son solo algunos ejemplos de sistemas más o menos automatizados que comienzan a ser implementados en la región. Otros más, como PRISMA de la Fiscalía colombiana (que busca hacer predicciones en reincidencia penal), o Expertius en México (que hace análisis en juicios de alimentos), también pueden ser mencionados. A pesar de la diversidad de las iniciativas, es posible observar algunas tendencias en la región, que señalan a algunos desafíos comunes que, creo, merecen mayor atención de la que están recibiendo.
Es importante considerar el contexto social en el que los sistemas son adoptados. En términos generales, la presentación y recepción en medios de comunicación de los mismos ha sido caracterizada por cierto optimismo tecnológico, el cual ya ha sido objeto de lecturas críticas, por ejemplo, en el caso de la presentación de Prometea en Colombia, y respecto a otras iniciativas de legal tech en el mundo. Se trata, en esencia, de resistir la narrativa de que las soluciones tecnológicas están desconectadas de la realidad social que las define y que, en consecuencia, pueden solucionar graves problemas sociales, como el acceso a la justicia en América Latina, sin considerar las causas subyacentes del problema que el sistema busca solucionar.
Por este motivo, todas las fases de desarrollo de estas soluciones deben ser transparentes, y estar acompañadas por la sociedad civil. Así, en el contexto de la justicia, es importante que todo programa pueda ser probado por pares externos a la institución judicial que busca implementarlo.
La transparencia es, en ese sentido, fundamental, no solo en el diseño del sistema, como ya vimos, sino respecto a cada una de las decisiones que tome el mismo. No deben existir resultados que no sean explicables, o verificables por terceros, en la automatización de la justicia en América Latina. Aquí, por supuesto, hay una diferencia respecto a si el proveedor de la solución es público o privado: en el caso de los desarrollos logrados con recursos públicos y que son aplicados a la administración de justicia (como es el caso de todos los ejemplos mencionados), no hay razón para que no haya completo acceso al código por parte del público, y para que puedan darse tests de reproducibilidad de resultados por parte de organizaciones de la sociedad civil o expertos independientes. De similar forma, en los casos en que las instituciones judiciales contraten con proveedores privados, deberán tener como prioridad que los derechos de propiedad intelectual no sean un obstáculo para la transparencia en el proceso de administración de justicia, como hizo evidente el caso de Loomis en Estados Unidos, referido al sistema de predicción de reincidencia COMPAS.
La transparencia protege el debido proceso en el proceso judicial. Aquí el desafío es tanto jurídico, como conceptual. De una parte, la automatización de ciertos momentos procesales implica reconocer recursos jurídicos a los afectados que probablemente no existían antes, para que sea posible cuestionar ciertas clasificaciones automáticas. Por ejemplo, VICTOR, el sistema de Brasil, no da un recurso en contra de una verificación del requisito de repercusión general que el afectado considere incorrecta, ni se informa al usuario que su petición fue objeto de decisión automática, y no de un funcionario judicial. Adicionalmente, aún si la decisión final no es tomada por el sistema, como sería el caso de Prometea, es necesario considerar el problema del sesgo de automatización; esto es, el instinto humano a ser deferente respecto a la decisión tomada por una máquina. Así, aún si existe la posibilidad de que el humano contradiga la decisión del sistema, la realidad es que la presunción tiende a ser a favor de confirmarla, y solo en casos extremos el humano la contradice. En el contexto de la administración de justicia, será necesario integrar al diseño del sistema y del derecho procesal ciertos mecanismos de control de este sesgo, de tal forma que se proteja el debido proceso en esta zona de decisión previa.
Como puede verse, la automatización en ciertos procesos de administración de justicia es ya una realidad en América Latina, y probablemente seguirá creciendo. Este giro debe ser bienvenido, pues tiene la potencialidad de resolver ciertos cuellos de botella documentales que crean congestión judicial. Abundan, sin embargo, los desafíos logísticos en términos de digitalización de documentos y operatividad de los sistemas. Para bien o para mal, la justicia en América Latina es todavía una justicia que se tramita en papel, y esto hace que muchas de estas iniciativas de automatización no sean escalables. Pero, aun cuando sean implementadas, es necesario involucrar a la sociedad civil e insertar mecanismos de protección al debido proceso desde el diseño mismo del sistema, y no como una corrección posterior. Sólo así las maquinas nos ayudarán a traer más justicia a la región.
This content was originally published here.
Español de México