Era cuestión de tiempo para que la tendencia que se inició con el caso de Roberto Mata contra Avianca, donde un abogado fue sancionado luego de que un tribunal detectara que invocó citas falsas de jurisprudencia generadas por una alucinación de ChatGPT, llegara a los tribunales argentinos.
En la causa “G.C.A. Y OTROS c/ M.F.D Y OTROS s/ DAÑOS Y PERJUICIOS”, la Cámara de Apelación en lo Civil y Comercial de Rosario criticó el uso de herramientas de inteligencia artificial por parte del letrado de los demandantes.
El caso surgió por un siniestro vial que derivó en un acuerdo transaccional celebrado el 10 de diciembre de 2024 entre los actores y una aseguradora, por el cual esta última se comprometía a abonar $2.500.000 en un plazo de 90 días.
“Mientras los sistemas no se desarrollen al punto de no alucinar, es sumamente riesgoso y hasta temerario delegar la labor de búsqueda de jurisprudencia de soporte y luego volcarla sin cotejar la fuente, como aquí ocurrió”, concluyó la sentencia.
Sin embargo, ante el incumplimiento del pago, los demandantes denunciaron la mora y notificaron formalmente a la contraparte, advirtiendo la posible resolución del acuerdo. La aseguradora no respondió, lo que llevó a los actores a solicitar la prosecución de la demanda original.
Al resolver el caso, el juez Oscar Puccinelli advirtió que en una de las presentaciones se utilizaron citas jurisprudenciales generadas por IA sin verificación, lo que resultó en referencias inexistentes. Por ello, como medida de mejor proveer, le pidió al abogado en cuestión que identifique la fuente de tales citas, pero al contestar el requerimiento, el letrado aclaró que “utilizó un sistema de inteligencia artificial y que volcó el resultado encontrado de buena fe, de modo que resulta claro que las citas mencionadas no fueron chequeadas por tal curial”.
El magistrado calificó esta conducta como una potencial violación ética, invocando las "Normas de Ética Profesional del Abogado" del Colegio de Abogados de Rosario, y dispuso oficiar a dicha institución "a los fines de que tome conocimiento de la problemática suscitada por el uso irreflexivo de los resultados de consultas a chatbots con inteligencia artificial generativa".
Tal actitud, aún de buena fe, compromete la responsabilidad profesional del letrado no sólo ante el tribunal sino, especialmente, respecto de su cliente -existiera o no consentimiento informado que autorice el uso de chatbots con inteligencia artificial generativa, pues no puede haber consentimiento válido alguno que releve a un letrado de su deber de cotejar las fuentes en las que basa sus posiciones jurídicas”,
Aunque reconoció la buena fe del profesional, el juez subrayó la responsabilidad de verificar fuentes para evitar riesgos en la administración de justicia.
“Tal actitud, aún de buena fe, compromete la responsabilidad profesional del letrado no sólo ante el tribunal sino, especialmente, respecto de su cliente -existiera o no consentimiento informado que autorice el uso de chatbots con inteligencia artificial generativa, pues no puede haber consentimiento válido alguno que releve a un letrado de su deber de cotejar las fuentes en las que basa sus posiciones jurídicas”, sostuvo al respecto.
En ese marco, el fallo recordó que una de las normas sostiene que “no importa tan sólo corrección desde el punto de vista pecuniario: requiere además lealtad personal, veracidad, buena fe. Así, por ejemplo, no debe formular afirmaciones o negaciones inexactas, efectuar en sus escritos citaciones tendenciosamente incompletas, aproximativas o contrarias a la verdad”.
“Este tipo de chatbots existen desde hace ya más de tres años y no sólo en sus términos y condiciones estos sistemas destacan que se trata de un sistema experimental y que sus resultados deben ser cotejados, sino que es ampliamente conocida la circunstancia de que, por esa misma razón, los resultados que ofrecen, en pos de satisfacer los requerimientos del consultante, incluyen aún y en muchos casos las denominadas “alucinaciones” y por ello, como ocurrió en el caso, aparecen fuentes lisa y llanamente inventadas”.
“Mientras los sistemas no se desarrollen al punto de no alucinar, es sumamente riesgoso y hasta temerario delegar la labor de búsqueda de jurisprudencia de soporte y luego volcarla sin cotejar la fuente, como aquí ocurrió”, concluyó la sentencia.
Si quiere profundizar en el uso de la Inteligencia Artificial —como ChatGPT— y otras tecnologías disruptivas aplicadas al ejercicio profesional, Campus Judicial el área de educación a distancia de Diario Judicial, ofrece cursos totalmente online diseñados específicamente para letrados, desde «ChatGPT para abogados» hasta «Blockchain y Smart Contracts». Visite campusjudicial.com y potencie su práctica legal mediante una formación práctica y flexible, adaptada a sus necesidades.