Una abogada en Massachusetts (EEUU), utilizó inteligencia artificial para elaborar una demanda, que contenía múltiples fallos “inventados” que se incorporaban al texto como precedentes citados. La letrada alegó que fue “culpa” de la IA y que ella no tenía intenciones de engañar al tribunal, reconociendo en el mismo acto su falta de diligencia para revisar el texto antes de ser presentado a la corte.
En este sentido el tribunal convocó a una audiencia para escuchar a las partes y decidir si se aplicaba una sanción a la profesional, que finalmente debió pagar una multa de U$S 2.000.
El tribunal advirtió de los precedentes falsos citados por la abogada y luego de requerirle que explique de dónde los obtuvo, la letrada respondió que había sido realizada por “internos” del estudio jurídico, aunque posteriormente presentó una carta a la corte en la cual reconoció el uso de inteligencia artificial para buscar precedentes, lo que derivó en la incorporación de fallos falsos creados por la IA, razón por la cual se disculpo con el tribunal por su incorporación y fallar en el control del escrito antes de ser incorporado.
Además, el caso se trataba de un hecho sensible, puesto que ante la muerte de una mujer de 23 años por posible suicidio, la abogada (que era tía de la víctima) interpuso la demanda por homicidio culposo contra un grupo de hombres a los que acusó de “grooming” contra la mujer. El hecho habría sucedido cuando la joven tenía 16 años para aprovecharse de ella con fines sexuales. Uno de los acusados además era oficial de control animal de la ciudad, razón por la cual se incluyó como demandada a la oficina de la Policía de la que depende el organismo.
El tribunal advirtió de los precedentes falsos citados por la abogada y luego de requerirle que explique de dónde los obtuvo, la letrada respondió que había sido realizada por “internos” del estudio jurídico, aunque posteriormente presentó una carta a la corte en la cual reconoció el uso de inteligencia artificial para buscar precedentes, lo que derivó en la incorporación de fallos falsos creados por la IA, razón por la cual se disculpo con el tribunal por su incorporación y fallar en el control del escrito antes de ser incorporado.
Así, el juzgado consideró que si bien la letrada reconoció el error y pidió disculpas, la sanción debía ser impuesta por haber fallado en tener las precauciones básicas que hubieran identificado los falsos precedentes citados, lo que era inaceptable. Si bien en su resolución el tribunal reconoce algunos beneficios del uso de la IA, también explica los peligros de su utilización, principalmente por las “alucinaciones” que puede crear el programa que ya tiene varios precedentes.