El debate sobre las pruebas electrónicas dio un nuevo paso en la jurisprudencia norteamericana en los últimos días cuando el Tribunal Superior de California, Condado de Alameda, dictó una sentencia en la que discutió cómo tratar los deepfakes y otros contenidos digitales que pueden ser falsificados con herramientas de inteligencia artificial.
El proceso se originó a partir de un reclamo en el que una de las partes presentó material audiovisual como prueba, pero la contraparte alegó que dicho contenido había sido manipulado digitalmente. Esta situación llevó al tribunal a detenerse en el análisis de la autenticidad y fiabilidad de los elementos electrónicos, bajo el prisma de las garantías constitucionales y de las normas probatorias vigentes en el Estado de California.
En el expediente, los demandantes aportaron videos y grabaciones como respaldo de sus afirmaciones. No obstante, la defensa cuestionó la veracidad de dichas pruebas, sosteniendo que se trataba de un caso de deepfake. A partir de allí, se generó un incidente probatorio en el que se solicitó peritaje técnico especializado.
“En este caso, el uso de GenAI trascendió la simple presentación de citas ficticias. Los demandantes presentaron al menos dos pruebas documentales creadas por GenAI. Además, en mayor medida que lo expresado por el tribunal de Hayes, el uso de deepfakes en un caso socava significativamente la capacidad del Tribunal para administrar justicia, erosiona significativamente la confianza pública en el sistema judicial y sobrecarga considerablemente a los tribunales, con recursos insuficientes y sobrecargados, con la laboriosa tarea de evaluar si las pruebas presentadas durante las diligencias previas al juicio eran deepfakes. Por lo tanto, procede una sanción más severa”
El tribunal, al analizar las pericias y los argumentos, concluyó que los avances tecnológicos permiten hoy producir imágenes y audios con apariencia real, aunque totalmente falsificados. Esta constatación obligó a revisar los parámetros de valoración de la prueba digital, especialmente en lo que respecta a la admisibilidad de videos y audios como medios idóneos para acreditar hechos.
“En este caso, el uso de GenAI trascendió la simple presentación de citas ficticias. Los demandantes presentaron al menos dos pruebas documentales creadas por GenAI. Además, en mayor medida que lo expresado por el tribunal de Hayes, el uso de deepfakes en un caso socava significativamente la capacidad del Tribunal para administrar justicia, erosiona significativamente la confianza pública en el sistema judicial y sobrecarga considerablemente a los tribunales, con recursos insuficientes y sobrecargados, con la laboriosa tarea de evaluar si las pruebas presentadas durante las diligencias previas al juicio eran deepfakes. Por lo tanto, procede una sanción más severa.”, sentenció el tribunal.
Los jueces subrayaron que la admisibilidad de este tipo de pruebas debe basarse en estándares reforzados de autenticación. En ese sentido, se destacó que no basta con la mera presentación del material audiovisual: es necesario que existan garantías técnicas y periciales que permitan acreditar su origen, integridad y ausencia de manipulación.
“Una sanción de terminación tiene el efecto disuasorio adecuado, mostrando al público que el Tribunal tiene tolerancia cero con los intentos de hacer pasar deepfakes como prueba. Esta sanción transmite un mensaje apropiadamente intimidante a los litigantes que comparecen ante este Tribunal: utilicen GenAI en los tribunales con mucha precaución”
El tribunal recordó que el Código de Evidencia de California ya contempla la necesidad de asegurar la cadena de custodia y la autenticación de los documentos electrónicos. Sin embargo, frente al fenómeno de los deepfakes, entendió que debe aplicarse una interpretación más estricta, que incluya controles técnicos especializados.
“Una sanción de terminación tiene el efecto disuasorio adecuado, mostrando al público que el Tribunal tiene tolerancia cero con los intentos de hacer pasar deepfakes como prueba. Esta sanción transmite un mensaje apropiadamente intimidante a los litigantes que comparecen ante este Tribunal: utilicen GenAI en los tribunales con mucha precaución.”, expresaron finalmente fuertemente en el fallo.