IA en Justicia: debate en Paraná sobre sesgos y SIAV
En los Tribunales de Paraná se desarrolló una jornada centrada en inteligencia artificial aplicada a la Justicia, con especial atención en los sesgos algorítmicos, la perspectiva de género y los modelos de automatización en la gestión judicial. El encuentro reunió a magistradas y magistrados del Superior Tribunal de Justicia de Entre Ríos (STJER), especialistas internacionales y equipos técnicos del sistema judicial provincial, en un contexto de creciente incorporación de herramientas digitales en el ámbito institucional.
La actividad se inscribe en un proceso más amplio de transformación digital del sistema judicial, donde la incorporación de tecnologías no solo modifica procedimientos administrativos, sino que también redefine criterios de análisis, toma de decisiones y gestión de información sensible. En este marco, el debate sobre inteligencia artificial generativa y sistemas de apoyo a la decisión adquiere relevancia estratégica por su impacto en derechos fundamentales, acceso a la justicia y equidad en el tratamiento de los casos.
Inteligencia artificial y justicia: el debate sobre sesgos y derechos
La expansión de la inteligencia artificial en el sistema judicial
La exposición principal estuvo a cargo de la investigadora de la Universidad de Valencia, Elisa Simó Soler, doctora en Derechos Humanos, Democracia y Justicia Internacional. Su intervención se centró en los efectos de la inteligencia artificial en sistemas judiciales y en la necesidad de analizar su implementación desde una perspectiva crítica.
Simó Soler planteó que la inteligencia artificial no es un fenómeno futuro sino una realidad operativa, que ya interviene en múltiples niveles de la administración pública y del sistema de justicia. En ese contexto, advirtió que su uso requiere una evaluación constante de los sesgos algorítmicos, ya que estos pueden reproducir desigualdades preexistentes en la sociedad, especialmente en casos vinculados a violencia de género.
Sesgos algorítmicos y perspectiva de género
Uno de los ejes centrales de la ponencia fue el análisis de los sesgos algorítmicos en sistemas de decisión automatizada. Según la especialista, estos sistemas pueden reforzar patrones de discriminación cuando son entrenados con datos históricos que ya contienen desigualdades estructurales.
En este sentido, planteó la necesidad de incorporar la perspectiva de género en el diseño y uso de tecnologías aplicadas a la Justicia. La advertencia se extendió a nuevas formas de violencia digital, como los deepfakes, que introducen riesgos adicionales en la protección de derechos y la integridad de las personas.
La expositora también subrayó la importancia de mantener supervisión humana en todos los procesos automatizados, destacando que la tecnología debe funcionar como soporte y no como reemplazo de la decisión judicial.
El Sistema Interinstitucional de Abordaje de la Violencia (SIAV)
Un modelo de automatización con criterios institucionales
Durante la jornada se presentó el Sistema Interinstitucional de Abordaje de la Violencia (SIAV), desarrollado por el Superior Tribunal de Justicia de Entre Ríos a través del Programa de Gestión Judicial. Este sistema se encuentra en etapa de prueba piloto en la ciudad de Paraná.
El SIAV fue diseñado como una herramienta de predicción temprana de riesgo en situaciones de violencia, basada en la integración de datos institucionales y criterios jurídicos previamente definidos. Según se explicó, no se trata de un sistema de inteligencia artificial generativa, sino de un modelo de automatización que opera sobre parámetros establecidos por equipos interdisciplinarios.
Funcionamiento y lógica del sistema
El sistema trabaja a partir de información previamente clasificada, con el objetivo de organizar y priorizar casos según niveles de riesgo. Este proceso busca optimizar la respuesta institucional sin reemplazar la intervención humana.
Entre sus características principales se destacan:
- Uso de bases de datos propias del Poder Judicial
- Definición previa de criterios de riesgo por equipos interdisciplinarios
- Trazabilidad del proceso de clasificación de información
- Función de apoyo a equipos técnicos sin sustituir su intervención
La lógica del sistema se basa en una estructura cerrada de aprendizaje, en la que la información no se genera de manera autónoma, sino que responde a parámetros definidos institucionalmente.
Transparencia, soberanía de datos y decisiones judiciales
Uno de los puntos centrales expuestos durante la presentación fue la importancia de la soberanía institucional sobre los datos judiciales. El sistema fue concebido dentro del propio Poder Judicial, con el objetivo de garantizar control sobre la información y los criterios de clasificación utilizados.
También se destacó la existencia de un manual de funcionamiento que documenta el proceso de diseño del sistema, lo que permite comprender cómo se asignan los valores y criterios utilizados en la predicción de riesgo. Este elemento es clave para la transparencia y la auditoría interna de los procesos automatizados.
Transformación digital del Poder Judicial y trabajo interdisciplinario
Articulación entre tecnología y equipos humanos
El desarrollo del SIAV y su implementación piloto reflejan un modelo de trabajo basado en la articulación entre tecnología, derecho y ciencias sociales. Según se explicó durante la jornada, el sistema es el resultado de un proceso previo de discusión interdisciplinaria, en el que participaron profesionales de distintas áreas del conocimiento.
Este enfoque busca evitar la automatización sin contexto, integrando criterios jurídicos y sociales en el diseño de herramientas digitales aplicadas a la gestión judicial.
Reducción de la revictimización y eficiencia institucional
Uno de los objetivos centrales del sistema es mejorar la gestión de casos de violencia, reduciendo tiempos de respuesta y evitando la revictimización de las personas involucradas. Al organizar la información de manera estructurada, el sistema permite a los equipos técnicos acceder a datos clasificados que facilitan la toma de decisiones.
Al mismo tiempo, se plantea que la incorporación de herramientas digitales puede contribuir a mejorar la eficiencia, eficacia y calidad institucional, siempre que se mantenga el control humano sobre los procesos de análisis y resolución.
Impacto del debate sobre inteligencia artificial en la Justicia
La jornada en Paraná refleja un fenómeno más amplio: la creciente incorporación de tecnologías de datos y algoritmos en los sistemas judiciales de América Latina. Este proceso plantea tensiones entre innovación tecnológica, protección de derechos y transparencia institucional.
El debate sobre inteligencia artificial en la Justicia no se limita a la eficiencia operativa. También involucra decisiones estructurales sobre cómo se construyen los sistemas de clasificación de riesgo, qué datos se utilizan y cómo se evita la reproducción de desigualdades existentes.
En este contexto, experiencias como el SIAV muestran un intento de combinar automatización con control institucional, aunque también abren discusiones sobre los límites de la predicción algorítmica en ámbitos sensibles como la violencia de género y la intervención judicial.
Síguenos
