19 de Abril de 2024
Edición 6949 ISSN 1667-8486
Próxima Actualización: 22/04/2024
Precedentes falsos creados por inteligencia artificial

Si la IA alucina, la abogada controla

Un tribunal de EEUU sancionó con una multa de U$S 2.000 a una letrada que incorporó jurisprudencia falsa en una demanda creada por inteligencia artificial generativa. La mujer se disculpó y reconoció la falta de control pero para el tribunal no podía pasarse por alto.

(Sebastián Onocko - Generado con IA, con tecnología de DALL-E 3)

Una abogada en Massachusetts (EEUU), utilizó inteligencia artificial para elaborar una demanda, que  contenía múltiples fallos “inventados” que se incorporaban al texto como precedentes citados. La letrada alegó que fue “culpa” de la IA y que ella no tenía intenciones de engañar al tribunal, reconociendo en el mismo acto su falta de diligencia para revisar el texto antes de ser presentado a la corte.

En este sentido el tribunal convocó a una audiencia para escuchar a las partes y decidir si se aplicaba una sanción a la profesional, que finalmente debió pagar una multa de U$S 2.000.

 

El tribunal advirtió de los precedentes falsos citados por la abogada y luego de requerirle que explique de dónde los obtuvo, la letrada respondió que había sido realizada por “internos” del estudio jurídico, aunque posteriormente presentó una carta a la corte en la cual reconoció el uso de inteligencia artificial para buscar precedentes, lo que derivó en la incorporación de fallos falsos creados por la IA, razón por la cual se disculpo con el tribunal por su incorporación y fallar en el control del escrito antes de ser incorporado.

 

Además, el caso se trataba de un hecho sensible, puesto que ante la muerte de una mujer de 23 años por posible suicidio, la abogada (que era tía de la víctima) interpuso la demanda por homicidio culposo contra un grupo de hombres a los que acusó de “grooming” contra la mujer. El hecho habría sucedido cuando la joven tenía 16 años para aprovecharse de ella con fines sexuales. Uno de los acusados además era oficial de control animal de la ciudad, razón por la cual se incluyó como demandada a la oficina de la Policía de la que depende el organismo.

El tribunal advirtió de los precedentes falsos citados por la abogada y luego de requerirle que explique de dónde los obtuvo, la letrada respondió que había sido realizada por “internos” del estudio jurídico, aunque posteriormente presentó una carta a la corte en la cual reconoció el uso de inteligencia artificial para buscar precedentes, lo que derivó en la incorporación de fallos falsos creados por la IA, razón por la cual se disculpo con el tribunal por su incorporación y fallar en el control del escrito antes de ser incorporado.

Así, el juzgado consideró que si bien la letrada reconoció el error y pidió disculpas, la sanción debía ser impuesta por haber fallado en tener las precauciones básicas que hubieran identificado los falsos precedentes citados, lo que era inaceptable. Si bien en su resolución el tribunal reconoce algunos beneficios del uso de la IA, también explica los peligros de su utilización, principalmente por las “alucinaciones” que puede crear el programa que ya tiene varios precedentes.

Documento relacionado:


Estimado colega periodista: si va a utilizar parte esta nota o del fallo adjunto como "inspiración" para su producción, por favor cítenos como fuente incluyendo el link activo a http://www.diariojudicial.com. Si se trata de una nota firmada, no omita el nombre del autor. Muchas gracias.

Notas relacionadas:
Difamación en una respuesta de ChatGPT
Cuando la inteligencia artificial alucina
Inteligencia artificial
ChatGPT para jueces
Inteligencia artificial generativa
Usar ChatGPT en una sentencia puede salir mal
Supuesta violación de derechos de autor
ChatGPT nuevamente a juicio
Su impacto en el ámbito jurídico
IA, entre las ventajas y el peligro
Una IA que quiere litigar
Todo un palo para la abogacía
Polémica por la IA en el ejercicio profesional
Marcha atrás para el abogado robot
Jurisprudencia inventada por la IA
Chas Chas GPT
La nueva app bajo investigación
Ojo con lo que escanean

VOLVER A LA TAPA

Diariojudicial.com es un emprendimiento de Diario Judicial.com S.A.
Propietario: Diario Judicial.com S.A. Amenábar 590 Ciudad Autónoma de Buenos Aires
Directora: Esther Analía Zygier. Registro de propiedad intelectual 54570890 Ley 11.723.
Descarga
la portada del diario en formato PDF

Reciba diariamente por e-mail todas las noticias del ámbito judicial.
Copyright ® 1999 - 2024 . Diario Judicial. Todos los derechos reservadores. ISSSN 1667-8486