Una reciente presentación judicial, autoría del abogado constitucionalista Andrés Gil Domínguez, sacó a la luz una problemática que ya no pertenece al terreno de la ciencia ficción: la manipulación digital de imágenes, voces y videos -conocida como deepfakes- en el marco de las elecciones.
La acción de amparo (electoral preventiva y colectiva), presentada ante la justicia electoral, denuncia la difusión de videos alterados que imitan a candidatos, con el objetivo de perjudicar su imagen y distorsionar el debate público.
Gil Dominguez pidió que se ordene "la adopción de medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de DEEPFAKES o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional…”
El escrito señala que el material circula en redes sociales como TikTok, Instagram y YouTube, y que es impulsado desde perfiles que no se identifican como partidarios ni consignan responsable político. Allí aparecen los candidatos diciendo frases y posiciones que nunca sostuvieron, simulando entrevistas o spots de campaña falsos, con una apariencia realista difícil de distinguir del contenido genuino, por ello buscando: “…se ordene la adopción de medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de DEEPFAKES o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional…”.
Según el abogado “la difusión de difusión de los deepfakes o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) en procesos electorales configura una conducta subsumible en el art. 140 del Código Penal, el cual estable que se impondrá prisión de dos meses a dos años al que con engaños indujere a otro a sufragar en determinada forma o a abstenerse de hacerlo”.
¿Qué se pidió en la demanda?
El constitucionalista pidió que la justicia tome medidas preventivas y urgentes, bajo el argumento de que está en juego la validez misma del proceso electoral. En concreto, solicitó que se ordene a las plataformas digitales el bloqueo inmediato del contenido deepfake identificado en la presentación, que se requiera a los proveedores de redes sociales los datos de origen de las cuentas que difundieron el material, que se establezcan pautas de actuación para prevenir la viralización de nuevos contenidos adulterados durante el tramo final de campaña.
“La decisión jurisdiccional que haga lugar a la pretensión promovida deberá ordenar al Estado Nacional-Jefatura de Gabinete de Ministros- Ministerio del Interior Subsecretaría de Asuntos Políticos que adopte las medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de DEEPFAKES o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional de renovación parcial de la Cámara de Diputados y de la Cámara de Senadores que se celebrará el 26 de octubre de 2025.”, expresó en otro de los párrafos de su presentación.
Todo ello, fundado en el derecho a elegir en libertad, la protección de la honra y la imagen del candidato, y los principios rectores del proceso electoral. El escrito menciona que, frente a una tecnología que puede alterar percepciones en cuestión de segundos y con gran nivel de realismo, la justicia debe aplicar una interpretación extensiva de las garantías electorales.
“Los deepfake constituyen un grave atentado contra el sistema democrático, especialmente, cuando se utilizan en procesos electorales debido a que inducen al error del electorado distorsionando su decisión, propagan desinformación, dificultan el contraste verídico de posturas políticas, erosionan la legitimidad de líderes, partidos y órganos electorales y su viralización impide reacciones correctivas a tiempo incluso si son desmentidos posteriormente”, argumentó Gil Donmiguez.
“…el uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) puede conculcar derechos fundamentales y derechos humanos de las personas, en la medida, que el Estado no adopte medidas.”
Entre los puntos centrales del reclamo se encuentra la necesidad de intervención de la justicia electoral no sólo en el día del comicio, sino también durante la campaña, para garantizar la legalidad del entorno comunicacional: “…el uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) puede conculcar derechos fundamentales y derechos humanos de las personas, en la medida, que el Estado no adopte medidas.”