En la causa “M.J.L. C/ PEUGEOT CITROEN ARGENTINA S.A Y OTRA S/ SUMARISIMO”, la Cámara de Apelaciones en lo Civil, Comercial, Familia y Minería de General Roca detectó 26 citas inexistentes en un escrito redactado con inteligencia artificial.
El hecho se dio en el marco de una causa donde un hombre demandó a Peugeot Citroën Argentina S.A. y a su concesionaria oficial DMX2 S.A. tras comprar un vehículo 0 km de alta gama que presentó múltiples fallas desde un primer momento.
“Esta situación debe llamar a la reflexión, pues si bien los letrados no lo han reconocido expresamente, resulta muy probable que hayan recurrido al uso de Inteligencia Artificial para elaborar sus escritos”, sostuvo el fallo.
En uno de los recursos de apelación presentado por su abogado con el objetivo de cobrar una indemnización por daños punitivos fue que la Cámara encontró los errores: 20 en el escrito del cliente y 6 en el de la codemandada.
Tras una exhaustiva búsqueda en la Biblioteca del Poder Judicial y en los registros del Superior Tribunal de Justicia, los jueces determinaron que ninguna de las citas pudo ser verificada y solicitó a los letrados que especifiquen el origen de las fuentes de las citas textuales atribuidas a tribunales de la provincia.
Uno de los abogados respondió que trataba de un “error material de pluma o de redacción”, mientras que el otro solicitó que se retiren las citas.
Los jueces recordaron que "el uso de chatbots de inteligencia artificial generativa constituye una herramienta más que puede coadyuvar en el trabajo diario”, pero los resultados “deben ser indefectiblemente cotejados”, ya que muchas veces “incluyen las denominadas ‘alucinaciones’ y por ello aparecen fuentes lisa y llanamente inexistentes e inventadas”.
La Cámara decidió no imponerse sanciones pero les hizo un severo llamado de atención a ambos profesionales, al sostener que el uso de nuevas tecnologías en la práctica legal debe estar sujeto a control humano, verificación responsable y respeto por las normas éticas que rigen el ejercicio de la abogacía.
“Esta situación debe llamar a la reflexión, pues si bien los letrados no lo han reconocido expresamente, resulta muy probable que hayan recurrido al uso de Inteligencia Artificial para elaborar sus escritos”, sostuvo el fallo.
“Así, esta conducta -que además estamos advirtiendo con cierta regularidad en presentaciones judiciales ante este organismo-, incluso actuando de buena fe, compromete la responsabilidad profesional del/a letrado/a no sólo ante el tribunal sino, especialmente, respecto de su cliente -existiera o no consentimiento informado que autorice el uso de chatbots con inteligencia artificial generativa- pues no puede haber consentimiento válido alguno que releve a un/a letrado/a de su deber de cotejar las fuentes en las que basa sus posiciones jurídicas”, agregaron los magistrados.
Finalmente, la Cámara resolvió remitir el caso al tribunal de ética del Colegio de Abogados, anuló su intervención en la instancia y resolvió no pagarles honorarios.
Si quiere profundizar en el uso de la Inteligencia Artificial —como ChatGPT— y otras tecnologías disruptivas aplicadas al ejercicio profesional, Campus Judicial el área de educación a distancia de Diario Judicial, ofrece cursos totalmente online diseñados específicamente para letrados, desde «ChatGPT para abogados» hasta «Blockchain y Smart Contracts». Visite campusjudicial.com y potencie su práctica legal mediante una formación práctica y flexible, adaptada a sus necesidades.