Las “alucinaciones” en los escritos judiciales se cobraron una nueva víctima. Se trata de una abogada litigante ante los tribunales civiles de la provincia de Tucumán, que fue multada y sancionada por un magistrado luego de detectarse que utilizó citas jurisprudenciales inexistentes y, para peor, en vez de reconocer su error, se mantuvo en su postura al ser intimada a acompañar los fallos invocados, acompañando un enlace que daba cuenta del uso de ChatGPT.
El juez Santiago José Peral, titular del Juzgado Civil y Comercial Común X° Nominación, del Centro Judicial Capital, tuvo por no acreditada la veracidad de los precedentes jurisprudenciales citados en la demanda e impuso a la letrada patrocinante de la parte actora una sanción de multa equivalente al valor de una (1) consulta escrita vigente (actualmente d euna valor de $620.000 y la exhortó a que lo sucesivo “adecue su actuación profesional a los deberes de veracidad, probidad, lealtad, buena fe y diligencia que rigen el proceso judicial”.
La sanción se fijó, además, en beneficio de la parte demandada, que fue la que “descubrió” que los precedentes eran producto de la alucinación de la IAGen. También se extrajeron testimonios y se ordenó la remisión de copia de las actuaciones judiciales caratuladas “O.F.C. c/ Booking.com Argentina S.R.L y otro s/ Daños y Perjuicios” al Tribunal de Ética y Disciplina del Colegio de Abogados de Tucumán, “a los fines que estime corresponder en el ámbito de su competencia”.
“Por el modo en que han sido formuladas en el escrito de demanda las citas jurisprudenciales antes detalladas -inexistentes o no verificables-, puede razonablemente inferirse que pudieron haber sido generadas mediante el uso de herramientas de inteligencia artificial, mas sin el debido control humano posterior sobre su veracidad”.
El incidente se activó durante la audiencia en la que contestó demanda el apoderado de Booking.com Argentina S.R.L. Allí planteó que varias referencias jurisprudenciales invocadas por la parte actora “no han podido ser verificadas” y que ese tipo de errores suele encuadrarse en las llamadas “alucinaciones”, es decir, la generación de datos incorrectos o no contrastables. Con ese argumento solicitó que se intime a la actora a acompañar copias íntegras y, de persistir la imposibilidad de corroboración, pidió sanciones por temeridad y mala fe procesal.
La letrada de la actora contestó que la jurisprudencia había sido obtenida de fuentes oficiales y afirmó que podía acompañarla. El tribunal concedió un plazo para cumplir y en una presentación posterior se adjuntaron dos fallos completos y se aportaron enlaces respecto de otros precedentes. Sin embargo, la demandada insistió en que los seis casos cuestionados no habían sido acompañados ni identificados de modo suficiente, y que algunos links remitían a expedientes distintos o a páginas que no permitían constatar lo citado. Incluso podía visualizarse al final de uno de los links que describe como fuente, la frase “source=chatgpt.com”
La sentencia analiza uno por uno los casos invocados y marca un patrón. En algunos supuestos, los enlaces ofrecidos no permitían acceder a un pronunciamiento. En otros, redirigían a páginas de contacto o arrojaban errores. También se verificó que ciertas identificaciones y links aportados no correspondían al precedente citado, sino a otro distinto. En ese marco, el juez concluyó que, tras una búsqueda exhaustiva, no fue posible constatar la existencia de los precedentes cuestionados, lo que habilitaba a considerarlos inexistentes o no acreditados.
"La resolución tiene por configurada la conducta temeraria y de mala fe procesal en que ha incurrido la letrada patrocinante de la parte actora “a la luz de las irregularidades analizadas” que “exceden con holgura el mero error material y no pueden razonablemente ser calificadas como un descuido aislado”,
“Del examen integral del escrito de demanda y de las sucesivas presentaciones efectuadas en autos, se desprende que seis de los precedentes jurisprudenciales invocados por la parte actora, con el patrocinio letrado de la Dra. M.C.L.V., no han podido ser verificados ni acreditados, pese a haber mediado una intimación expresa y concreta en tal sentido”, sostuvo el magistrado, que entendió que “por el modo en que han sido formuladas en el escrito de demanda las citas jurisprudenciales antes detalladas -inexistentes o no verificables-, puede razonablemente inferirse que pudieron haber sido generadas mediante el uso de herramientas de inteligencia artificial, mas sin el debido control humano posterior sobre su veracidad”.
El juez Peral ponderó que, si bien esa versión no ha sido reconocida expresamente (ni por la parte actora ni por su letrada patrocinante), lo cierto era “que la inexistencia objetiva de los precedentes citados, constatada tras una búsqueda exhaustiva, torna verosímil dicha hipótesis, como explicación del incumplimiento advertido”, tornando aplicable el precedente de la Corte provincial que calificó “como hecho de gravedad institucional”, que un abogado defensor haya invocado jurisprudencia inexistente.
“En el caso particular, corresponde precisar que las irregularidades verificadas no pueden ser razonablemente atribuidas a una conducta personal de la parte actora -quien comparece a este proceso en su carácter de consumidora-, sino que se vinculan de modo preponderante con la actuación técnica desplegada por su letrada patrocinante”, adelantó el magistrado, para quien “los incumplimientos constatados se relacionan con decisiones propias del ejercicio profesional del abogado, particularmente en lo atinente a la selección, verificación e invocación de precedentes jurisprudenciales, materias que exceden el ámbito de conocimiento, control y responsabilidad exigible al justiciable”.
Por ello, la resolución tiene por configurada la conducta temeraria y de mala fe procesal en que ha incurrido la letrada patrocinante de la parte actora “a la luz de las irregularidades analizadas” que “exceden con holgura el mero error material y no pueden razonablemente ser calificadas como un descuido aislado”, lo que “se ve en forma particular agravada por la insistencia de la letrada patrocinante en afirmar la veracidad de las citas jurisprudenciales efectuadas”.