Esta vez no fue la IA, fue el humano

En los autos “Gutierrez, Yazmin c/ Lorenzo Food Group, Inc.” (No. 24-cv-9173), el United States District Court for the District of New Jersey, a cargo de la jueza Evelyn Padin, dictó una resolución en la que analizó la procedencia de sanciones contra el abogado de la parte actora a raíz de la inclusión de citas incorrectas en un escrito judicial.

El planteo se originó luego de que, en el marco de un incidente previo, tanto la demandada como el tribunal advirtieran la imposibilidad de verificar diversas citas y transcripciones incluidas en el escrito de oposición a una moción de desestimación. A partir de ello, se abrió un proceso para determinar el origen de las inconsistencias.

La hipótesis inicial del error fue el posible uso de inteligencia artificial generativa en la elaboración del escrito. Esta sospecha surgió debido a que el documento contenía citas reales, pero atribuidas a precedentes incorrectos, una situación que había sido asociada en otros casos a errores producidos por herramientas automatizadas.

“Inicialmente, tanto los demandados como el tribunal dudaban de si el Sr. Mott o algún miembro de su bufete había utilizado inteligencia artificial generativa (IAG) para redactar la oposición a la demanda colectiva por discriminación laboral. Esta especulación se debía a que la oposición del demandante contenía citas reales atribuidas a casos erróneos. Tras meses de incertidumbre, el tribunal ha llegado a la conclusión de que ninguna de las partes utilizó IAG; en cambio, una persona cometió el lamentable error de atribuir las citas a casos equivocados.”

Sin embargo, tras un proceso que incluyó la presentación de declaraciones juradas contradictorias y la realización de una audiencia testimonial, el tribunal concluyó que no se había utilizado inteligencia artificial generativa en la redacción del documento.

“Inicialmente, tanto los demandados como el tribunal dudaban de si el Sr. Mott o algún miembro de su bufete había utilizado inteligencia artificial generativa (IAG) para redactar la oposición a la demanda colectiva por discriminación laboral. Esta especulación se debía a que la oposición del demandante contenía citas reales atribuidas a casos erróneos. Tras meses de incertidumbre, el tribunal ha llegado a la conclusión de que ninguna de las partes utilizó IAG; en cambio, una persona cometió el lamentable error de atribuir las citas a casos equivocados.”, se concluyó en la decisión.

De acuerdo con lo expuesto en la audiencia, la paralegal responsable del borrador había reemplazado citas originales por otras correspondientes a tribunales del mismo circuito, atribuyendo erróneamente a estos últimos fragmentos que provenían de precedentes distintos. Esta sustitución generó la apariencia de citas correctas, aunque en realidad no se correspondían con los fallos invocados.

“En definitiva, parece que la Sra. Berrent, asistente legal responsable de redactar los escritos, incluida la oposición al MTD, malinterpretó las instrucciones de la Sra. Hiers de citar casos del Tercer Circuito y tomó la lamentable decisión de atribuir citas de casos ajenos al Tercer Circuito a casos de dicho circuito. La Sra. Berrent había citado correctamente estos casos de otros circuitos en borradores anteriores de la oposición al MTD, y aparentemente sustituyó las citas del Tercer Circuito, dando la impresión de que las citas provenían de esos casos.”

La Corte distrital destacó que el problema no radicó en la utilización de tecnología, sino en una combinación de errores humanos, falta de verificación y deficiencias en los controles internos del estudio jurídico. En ese sentido, se señaló que ningún integrante del equipo había realizado tareas básicas de revisión, como el chequeo de citas o la validación de precedentes mediante herramientas jurídicas.

“En definitiva, parece que la Sra. Berrent, asistente legal responsable de redactar los escritos, incluida la oposición al MTD, malinterpretó las instrucciones de la Sra. Hiers de citar casos del Tercer Circuito y tomó la lamentable decisión de atribuir citas de casos ajenos al Tercer Circuito a casos de dicho circuito. La Sra. Berrent había citado correctamente estos casos de otros circuitos en borradores anteriores de la oposición al MTD, y aparentemente sustituyó las citas del Tercer Circuito, dando la impresión de que las citas provenían de esos casos.”, se explicó en los fundamentos.

Sobre esa base, el tribunal concluyó que el letrado había incumplido deberes profesionales vinculados a la competencia, supervisión y control del trabajo de su equipo, en los términos de las reglas de ética aplicables. En consecuencia, se resolvió imponer sanciones económicas al abogado, consistentes en el pago de los honorarios generados por la contraparte al responder el escrito defectuoso. Al mismo tiempo, se dispuso que el profesional complete cursos de capacitación en ética y en el uso de inteligencia artificial en el ámbito jurídico.