California aprobó por unanimidad una norma que establece obligaciones específicas para los abogados que utilizan inteligencia artificial generativa. El texto impide delegar el ejercicio de la abogacía en estas herramientas y obliga a los profesionales a verificar sus resultados.
La iniciativa fue aprobada por la Asamblea y el Senado de California y quedó a consideración del gobernador, quien tiene plazo hasta el 30 de septiembre para firmarla o vetarla. Establece como principio que “un abogado no podrá delegar el ejercicio de la abogacía en la inteligencia artificial generativa”.
La IA podrá utilizarse como herramienta de asistencia, pero la responsabilidad seguirá siendo del profesional. En particular, los abogados deberán adoptar medidas razonables para verificar los resultados obtenidos, incluida la exactitud de las citas de casos y normas.
Si una herramienta genera información falsa o una “respuesta alucinada”, el abogado deberá corregirla. Además, deberá revelar al tribunal el uso de IA generativa en todos los documentos que presente ante él.
El proyecto también establece límites sobre la información que puede ingresarse en estos sistemas. Los letrados no podrán incorporar información confidencial, datos personales identificativos u otra información no pública cuando el acceso no esté restringido al profesional y a personas autorizadas sujetas a obligaciones de confidencialidad.
El proyecto surge luego de distintos casos en Estados Unidos en los que abogados presentaron jurisprudencia inexistente o citas fabricadas por sistemas de IA.
A su vez, una modificación al Código de Procedimiento Civil establece que ningún escrito presentado ante un tribunal podrá contener una cita que el abogado responsable no haya verificado personalmente, incluso cuando haya sido proporcionada por una herramienta de IA.
Las obligaciones alcanzan también a los árbitros. La nueva sección 1282.1 establece que no podrán delegar en IA generativa ninguna parte de su función decisoria ni basarse en información generada por IA que esté fuera del expediente sin realizar previamente las revelaciones correspondientes y, cuando sea posible, permitir que las partes formulen observaciones.
La norma no prohíbe el uso de inteligencia artificial en la práctica jurídica. El eje está puesto en que el profesional conserve el control sobre la herramienta, verifique sus resultados y corrija los errores.
El proyecto surge luego de distintos casos en Estados Unidos en los que abogados presentaron jurisprudencia inexistente o citas fabricadas por sistemas de IA.