Sigue el derrotero judicial por el uso defectuoso de inteligencia artificial generativa en presentaciones forenses. Esta vez, la Sala I de la Cámara de Apelaciones en lo Civil, Comercial, Familia, de Minería y Contencioso Administrativa de la Segunda Circunscripción Judicial de General Roca, Rio Negro, confirmó el rechazo de una demanda por daños y perjuicios iniciada a raíz de un siniestro vial ocurrido en Villa Regina y, al analizar la apelación, advirtió que la expresión de agravios contenía citas jurisprudenciales inexistentes. La decisión incluyó un llamado de atención a la parte apelante por el empleo de herramientas de IAGen sin el debido control profesional.
El caso “A.M., F.A. c/ C. N.H y Otros S/ Ordinario - Daños y Perjuicios” se originó en un accidente de tránsito ocurrido el 31 de julio de 2020 en la intersección de Juan XXIII y Araucanos. La actora promovió la acción civil contra el conductor de un automóvil Peugeot y atribuyó el hecho a una maniobra de giro. Sin embargo, al ponderar las constancias incorporadas desde la causa penal y los elementos periciales, el tribunal tuvo por acreditada una hipótesis distinta: la motocicleta habría intentado sobrepasar al automóvil en la inmediatez de la esquina, dato relevante para la atribución de responsabilidad.
La demanda había sido rechazada en primera instancia, entre otros motivos, por la inconsistencia interna del relato. Al confirmar el decisorio, la Cámara volvió sobre el punto y sostuvo que “resulta muy difícil dilucidar el relato de los hechos de la actora”, ya que se presenta “contradictoria y confusa su redacción”, lo cual “impide tratar de realizar una representación de cómo sucedieron los hechos”. En ese mismo tramo, el fallo agregó que, de una lectura estricta del escrito inicial, “no hubiera habido contacto alguno entre los vehículos involucrados”, lo que evidenciaba la distancia entre lo narrado y la dinámica que luego emergió de la prueba.
Puede inferirse entonces que se ha utilizado alguna herramienta de inteligencia artificial generativa -IAGEN- sin el debido control humano”, pues “se colige que los precedentes citados participan de la características de las ‘alucinaciones’”
Además, el tribunal observó errores objetivos en la descripción del lugar del hecho. Entre ellos, subrayó la mención de una arteria que “no existe en la zona del accidente”, en una demanda que ubicaba el siniestro en Juan XXIII y Araucanos. Para la Cámara, esos desajustes reforzaron el cuadro de imprecisión que ya había destacado el juzgado de grado.
Pero el pasaje más novedoso se concentró en el escrito recursivo. En un apartado específico, la Sala transcribió el segmento donde se invocaba doctrina y jurisprudencia “aplicable” y detalló el control posterior. Según explicó, tras consultar el buscador oficial del Poder Judicial provincial y el Centro de Documentación Jurídica, no pudo corroborar los precedentes citados. Incluso puntualizó que una de las referencias atribuidas a la Corte Suprema sí era localizable por su identificación numérica, aunque no guardaba relación con el caso.
A partir de esa verificación, el tribunal compuesto por las juezas Andrea Tormena y Veronica Ivanna Hernandez, y el juez Dino Daniel Maugeri encuadró el episodio como un supuesto típico de uso irreflexivo de inteligencia artificial generativa. En un tramo del fallo, la Cámara sostuvo: “Puede inferirse entonces que se ha utilizado alguna herramienta de inteligencia artificial generativa -IAGEN- sin el debido control humano”, pues “se colige que los precedentes citados participan de la características de las ‘alucinaciones’”.
“Cabe tener presente que la utilización de este tipo de herramientas generativa de inteligencia artificial que se presentan como auxiliares a la tarea profesional no dispensa de responsabilidad por su mal uso, siendo indelegable el control correspondiente”, agregaron los camaristas.
El fallo también vinculó el caso con el marco de actuación vigente en Río Negro y mencionó la Acordada 22/2025 del Superior Tribunal de Justicia, dictada en un contexto de creciente preocupación por presentaciones defectuosas confeccionadas con IAGen. En ese marco, recordó que el uso inadecuado de estas herramientas puede habilitar medidas correctivas conforme la normativa aplicable.
De todos modos, la Sala aclaró que lo resuelto no implicaba una sanción y optó por una decisión de advertencia institucional. Así, formuló un llamado de atención a las letradas de la parte apelante por citar fallos inexistentes y las exhortó a extremar los recaudos de verificación para evitar que el problema se repita.
“A.M., F.A. c/ C. N.H y Otros S/ Ordinario - Daños y Perjuicios”. Sala I de la Cámara de Apelaciones en lo Civil, Comercial, Familia, de Minería y Contencioso Administrativa de la Segunda Circunscripción Judicial de General Roca, Rio Negro