IA regulada en provincia

La Suprema Corte de Justicia de la provincia de Buenos Aires aprobó un proyecto de reglamento destinado a ordenar el desarrollo y uso de sistemas de IA dentro de la administración de justicia y abrió un proceso de consulta pública que permanecerá vigente hasta el 8 de julio.

La resolución fue registrada bajo el número RSC-1719-2026 y constituye el primer paso formal para la adopción de un marco regulatorio integral sobre inteligencia artificial dentro del Poder Judicial bonaerense. El acuerdo fue suscripto por los ministros Sergio Gabriel Torres, Hilda Kogan y Daniel Fernando Soria.

La iniciativa parte de una constatación que el propio tribunal reconoce expresamente y es que la inteligencia artificial dejó de ser una tecnología experimental y ya es utilizada, de manera formal e informal, en múltiples ámbitos judiciales. Según los considerandos, actualmente estas herramientas se emplean para tareas tan diversas como la atención de usuarios, la optimización de procesos, la gestión y análisis de datos, la sistematización de jurisprudencia y el apoyo a la actividad judicial.

El proyecto busca establecer un marco de gobernanza para evitar usos descoordinados o riesgosos. Para ello crea una Comisión de Gobernanza y Uso de Inteligencia Artificial, integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales, que actuará como autoridad de aplicación y tendrá facultades para proponer protocolos, evaluar herramientas, impulsar pruebas piloto, monitorear resultados y elaborar informes periódicos.

La Corte advierte que estas tecnologías pueden producir "resultados inexactos, alucinaciones, contenidos sesgados o no verificables" y que incluso pueden debilitar el juicio crítico de los operadores mediante el denominado "sesgo de automatización"

Uno de los mensajes más claros del documento aparece en relación con el rol de jueces y funcionarios. La Corte sostuvo que "la función jurisdiccional es indelegable e insustituible" y que la inteligencia artificial deberá ser utilizada "exclusivamente como herramienta de apoyo —nunca sustitutiva— de la actividad humana". También recordó que el uso de estas herramientas "no exime de su plena responsabilidad al operador por el contenido, validez y legalidad de los actos".

La prohibición se vuelve todavía más explícita en el articulado. El reglamento establece que "bajo ninguna circunstancia se podrá delegar en una IA la toma de decisiones judiciales que impliquen la resolución del proceso o procedimiento administrativo, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta una resolución o sentencia".

El proyecto adopta además un enfoque basado en niveles de riesgo. Los sistemas de IA son clasificados en tres categorías: bajo riesgo, alto riesgo y usos prohibidos. Dentro de los usos considerados de bajo riesgo aparecen tareas administrativas como clasificación documental, programación de audiencias, anonimización de resoluciones, transcripción automática, traducción de documentos, chatbots informativos y corrección ortográfica.

En cambio, se consideran sistemas de alto riesgo aquellos destinados a asistir funciones críticas vinculadas con la actividad jurisdiccional, como el análisis jurisprudencial, la interpretación normativa, la predicción de resultados judiciales o la generación de propuestas de resoluciones. En esos casos será obligatorio realizar un Análisis de Impacto Algorítmico, implementar mecanismos de supervisión humana, habilitar vías de impugnación y someter los sistemas a monitoreo permanente.

El texto dedica varios apartados a los riesgos específicos de la inteligencia artificial generativa. La Corte advierte que estas tecnologías pueden producir "resultados inexactos, alucinaciones, contenidos sesgados o no verificables" y que incluso pueden debilitar el juicio crítico de los operadores mediante el denominado "sesgo de automatización", es decir, la tendencia a confiar excesivamente en las recomendaciones algorítmicas.

El proyecto ordena a jueces, funcionarios y empleados "abstenerse de utilizar chatbots de uso general en sus versiones de acceso gratuito para el desarrollo de tareas vinculadas a funciones jurisdiccionales o al tratamiento de información judicial"

Por esa razón, el reglamento obliga a los operadores judiciales a verificar toda cita normativa, referencia jurisprudencial o análisis generado por inteligencia artificial antes de incorporarlo a una actuación. También exige reportar errores, sesgos, alucinaciones o comportamientos inesperados detectados en los sistemas utilizados.

El proyecto ordena a jueces, funcionarios y empleados "abstenerse de utilizar chatbots de uso general en sus versiones de acceso gratuito para el desarrollo de tareas vinculadas a funciones jurisdiccionales o al tratamiento de información judicial". Asimismo, prohíbe incorporar datos personales, información sensible, investigaciones en curso o información confidencial en plataformas cuyos términos de servicio permitan utilizar esos datos para entrenar modelos futuros.

La protección de datos personales ocupa un lugar central en la propuesta. El reglamento remite expresamente a la Ley 25.326 y exige anonimización, minimización de datos, controles de acceso y evaluaciones de impacto cuando se utilicen herramientas capaces de procesar información sensible.

Otra novedad relevante es la exigencia de transparencia. Por ejemplo, cuando una herramienta de IA intervenga en tareas que puedan influir en decisiones judiciales o administrativas, el operador deberá informar qué sistema utilizó, qué modelo empleó, quién es el proveedor, cuándo se usó y qué partes concretas del documento fueron generadas con asistencia artificial. El objetivo es garantizar la posibilidad de control y contradicción por parte de los interesados.

La SCBA también prevé la creación de un repositorio público donde deberán registrarse todos los sistemas de IA utilizados institucionalmente. Allí se publicará información sobre proveedores, funciones, auditorías, evaluaciones de impacto, mecanismos de impugnación y fechas de actualización.

Entre los usos expresamente prohibidos figuran la automatización completa de decisiones jurisdiccionales, los sistemas que operen sin supervisión humana efectiva, las herramientas que reproduzcan sesgos discriminatorios, el uso de IA para generar prueba sintética y los sistemas predictivos de reincidencia con efectos vinculantes sobre decisiones de libertad o prisión preventiva.

El proyecto también prevé auditorías periódicas. En ese sentido, los sistemas de alto riesgo deberán ser auditados cada seis meses y los de bajo riesgo, al menos una vez por año. Además. los informes serán públicos e incluirán recomendaciones de mejora, suspensión o incluso desmantelamiento cuando se detecten afectaciones a derechos fundamentales.

La consulta pública permanecerá abierta hasta el 8 de julio. Luego, la Comisión deberá procesar los aportes recibidos y elevar un informe a la Suprema Corte antes del 31 de agosto. Hasta la aprobación de una versión definitiva, el texto tendrá carácter orientador y no vinculante.