Deepfakes para todos y todas

Una fotografía o un video puede mostrar con enorme realismo a una persona haciendo algo que nunca hizo, en un lugar en el que nunca estuvo o exponiendo una intimidad que jamás existió. Cuando esa capacidad tecnológica se utiliza para sexualizar la imagen de otra persona, la discusión deja rápidamente de ser tecnológica para transformarse en jurídica.

La Cámara de Acusación de Córdoba aportó una respuesta particularmente interesante en la causa "C., J. M. p.s.a. Lesiones graves calificadas reiteradas", Auto n.º 55 del 16 de marzo de 2026, donde confirmó la elevación a juicio de un joven acusado de utilizar herramientas de inteligencia artificial para crear montajes sexuales utilizando los rostros de compañeras de escuela y posteriormente publicarlos en un sitio de internet, acompañándolos con sus nombres y enlaces a sus perfiles en redes sociales.

La defensa cuestionó, entre otros aspectos, la calificación jurídica atribuida a los hechos. La Cámara rechazó el recurso y entendió que existían elementos suficientes para que el caso llegara a juicio bajo la figura de lesiones graves calificadas por haber mediado violencia de género.

La decisión es importante no solamente por lo que resuelve, sino por el problema que deja expuesto.

La Cámara pone el foco no en la autenticidad de la escena sino en sus consecuencias.

La imagen era falsa. El daño real

Una primera reacción frente a los deepfakes suele concentrarse en su falsedad. Las víctimas nunca participaron de las escenas representadas. Las imágenes habían sido manipuladas digitalmente. Desde esa perspectiva podría parecer que, al no existir el hecho representado, tampoco existe una afectación equivalente a la que produciría una imagen auténtica. Sin embargo, el fallo cordobés rompe con ese razonamiento.

La Cámara pone el foco no en la autenticidad de la escena sino en sus consecuencias. Las publicaciones identificaban a las víctimas mediante sus nombres y apellidos y, además, incorporaban enlaces a sus perfiles de Instagram. Como consecuencia de esa exposición comenzaron a recibir solicitudes y visitas en sus redes por parte de desconocidos.

Pero el elemento central fue que las pericias psicológicas incorporadas a la causa permitieron verificar consecuencias sobre la salud psíquica de las damnificadas.

Es allí donde la tecnología deja de ser el centro del análisis. El montaje era sintético, pero la afectación era real. Por lo tanto, se debe redefinir cuál es el bien jurídico tutelado.

La Cámara recuerda que el concepto penal de lesión no se limita al daño corporal. La salud comprende también su dimensión psíquica y una afectación suficientemente relevante y persistente puede quedar comprendida dentro de los arts. 89 y 90 del Código Penal.

La inteligencia artificial fue, en definitiva, el instrumento utilizado para producir el resultado.

Deepfake y violencia digital

El segundo aspecto relevante del pronunciamiento es la aplicación del régimen de protección contra la violencia de género.

La Ley 27.736 (conocida como Ley Olimpia) modificó la Ley 26.485 incorporando expresamente la violencia digital o telemática. La reforma fue particularmente previsora.

La legislación no protege únicamente frente a la difusión no consentida de material auténtico. Incluye también la obtención, reproducción y difusión de material digital "real o editado" que sea atribuido a una mujer y afecte su integridad, dignidad, identidad o reputación.

La distinción es fundamental frente a la inteligencia artificial. El derecho comienza así a independizar la protección de la víctima de una discusión acerca de la autenticidad del archivo.

No importa solamente si aquello que aparece en una pantalla ocurrió. Importa qué se hizo con la identidad de una persona y qué consecuencias produjo.

En el caso analizado, la Cámara entendió que las publicaciones configuraban una exposición sexual digital, pública y reiterada y las examinó también desde las categorías de violencia psicológica, simbólica, mediática y digital.

La minoridad de las víctimas agregó una dimensión adicional. El tribunal destacó su particular vulnerabilidad como personas en formación y recurrió a los estándares de protección reforzada que derivan, entre otras normas, de las Reglas de Brasilia.

Cuando la identidad se convierte en materia prima

Quizás el aspecto más inquietante de los deepfakes sea que permiten separar dos elementos que históricamente estaban unidos. Estos son el cuerpo y su representación.

Ya no es necesario obtener una imagen íntima de una persona, ya que puede ser suficiente obtener una fotografía ordinaria publicada voluntariamente en una red social. El rostro se convierte entonces en materia prima.

Un sistema de inteligencia artificial puede utilizar esa identidad visual para generar una representación completamente nueva y atribuírsela a la víctima. Esto obliga a formular una pregunta que probablemente ocupará al derecho durante los próximos años:

Porque el problema ya no consiste únicamente en evitar que alguien divulgue una fotografía privada. Consiste también en impedir que terceros fabriquen una intimidad inexistente utilizando nuestra identidad.

La escena puede no haber ocurrido jamás y, sin embargo, producir humillación, hostigamiento, daño psicológico, pérdida de control sobre la propia imagen y una huella digital extremadamente difícil de eliminar.

Una investigación en entorno digital debe apuntar a la integralidad de la prueba, de manera que todos los elementos probatorios constituyan un mosaico procesal para poder reconstruir la verdad digital a partir del contexto general, más allá de lo que pueda aportar aisladamente cualquier elemento digital per se.

La falsedad del contenido deja entonces de funcionar como argumento exculpatorio desde la perspectiva del daño.

El Mosaico de elementos probatorios en el entorno digital

El caso ofrece además una lección de derecho probatorio digital que trasciende la discusión de fondo. La defensa sostuvo que, al no haberse podido recuperar técnicamente las imágenes manipuladas, el hecho carecía de sustento probatorio.

Sin embargo, la Cámara confirmó igualmente la elevación a juicio, reconstruyendo la existencia del hecho a partir de prueba enteramente indiciaria y digital, ponderando direcciones IP, historial de navegación forense, leyendas de URL que identificaban a las víctimas, y conversaciones de WhatsApp de los propios progenitores del imputado intentando eliminar el contenido antes de que la causa avanzara. El objeto material del delito desapareció. La reconstrucción de la conducta, no.

Por ello, una investigación en entorno digital debe apuntar a la integralidad de la prueba, de manera que todos los elementos probatorios constituyan un mosaico procesal para poder reconstruir la verdad digital a partir del contexto general, más allá de lo que pueda aportar aisladamente cualquier elemento digital per se.

La cuestión penal

El caso cordobés resulta especialmente interesante porque la respuesta penal encontrada fue la figura de lesiones graves calificadas, pero difícilmente sea la última discusión.

El Código Penal contiene otras figuras que deberán ser examinadas según las características de cada caso y, particularmente cuando las personas representadas sean menores de edad, aparecerá inevitablemente la discusión sobre el alcance del art. 128 y su referencia a "toda representación" de una persona menor de dieciocho años en actividades sexuales explícitas.

La cuestión exige prudencia. No todo montaje, desnudo artificial o imagen sexualizada quedará automáticamente comprendido en aquella figura. El principio de legalidad impide convertir por vía interpretativa cualquier comportamiento reprochable en delito.

Pero tampoco parece jurídicamente razonable sostener que la utilización de inteligencia artificial excluye, por sí sola, la aplicación de figuras penales existentes.

La neutralidad tecnológica debería operar en ambos sentidos. Por un lado, una conducta no se convierte automáticamente en delito porque intervenga una IA, pero tampoco deja de serlo porque el instrumento utilizado sea un algoritmo.

La pregunta correcta no es, entonces, si intervino inteligencia artificial. La pregunta es qué conducta realizó el autor, qué representación produjo, qué bien jurídico afectó y cuál de las figuras previstas por el ordenamiento resulta aplicable.

El problema escolar

Existe, además, una dimensión que merece particular atención. Las herramientas necesarias para generar este tipo de contenidos ya no requieren conocimientos informáticos avanzados. Algunas funcionan desde un teléfono y pueden ser utilizadas por adolescentes.

Esto transforma radicalmente la escala del problema. Situaciones que hasta hace pocos años podían requerir conocimientos de edición profesional hoy pueden ejecutarse en minutos por estudiantes que utilizan fotografías obtenidas de las redes sociales de sus propios compañeros.

En cuestión de semanas, determinadas conductas realizadas por adolescentes mediante inteligencia artificial (o incluso sin ella, violando la intimidad de las personas) podrán dejar de ser consideradas exclusivamente como un problema escolar, disciplinario o familiar para ingresar también, en el sistema penal juvenil, como por ejemplo distribución de pornografía infantil.

Y allí aparece un interrogante jurídico adicional, con una fecha concreta encima de la mesa. La Ley 27.801 creó en 2026 un nuevo Régimen Penal Juvenil que establece responsabilidad penal desde los catorce años para hechos tipificados como delitos. La norma fue publicada el 9 de marzo y entrará en vigencia el 5 de septiembre de 2026, cuando se cumplan los 180 días previstos para su implementación.

Esto significa que, en cuestión de semanas, determinadas conductas realizadas por adolescentes mediante inteligencia artificial (o incluso sin ella, violando la intimidad de las personas) podrán dejar de ser consideradas exclusivamente como un problema escolar, disciplinario o familiar para ingresar también, en el sistema penal juvenil, como por ejemplo distribución de pornografía infantil.

La cuestión es particularmente delicada, dado que en un mismo episodio pueden existir menores de edad en ambos extremos del conflicto. Víctimas menores, por un lado, y por el otro, autores menores, pero punibles.

La responsabilidad de los desarrolladores

Existe finalmente una pregunta que este fallo no necesitaba resolver, pero que resulta imposible ignorar.

¿Qué sucede con las plataformas? Los deepfakes adquieren buena parte de su capacidad lesiva porque pueden ser publicados, indexados, recomendados, replicados y distribuidos a una escala prácticamente ilimitada.

La Ley Olimpia ya permite que judicialmente se ordene a plataformas digitales, redes sociales y páginas electrónicas la supresión de contenidos constitutivos de violencia digital y, simultáneamente, la preservación de determinados datos informáticos para posteriores acciones.

Pero la cuestión de fondo es considerablemente más compleja. Habrá que determinar hasta dónde llega la responsabilidad civil de una plataforma cuando toma conocimiento de que aloja una representación sexual sintética no consentida; qué deber de diligencia puede exigírsele; cuál debe ser la velocidad de respuesta; cómo se compatibiliza la remoción con la preservación de evidencia y qué sucede cuando los sistemas algorítmicos de la propia plataforma contribuyen a amplificar el contenido.

Es decir, algo similar a la doctrina del safe harbor si se sigue el procedimiento Notice & Take Down aplicable a los ISP, trasladada a la responsabilidad objetiva. Claramente esto no tiene desarrollo pacíficamente instalado a nivel global sin una regulación expresa.

Ese debate merece un análisis independiente y probablemente sea uno de los próximos grandes conflictos jurídicos alrededor de la inteligencia artificial.

Del archivo falso al daño verdadero

Como anticipé, el fallo de la Cámara de Acusación de Córdoba no resuelve todos los problemas jurídicos asociados a los deepfakes ni pretende hacerlo.

La propia Cámara recuerda que la calificación jurídica adoptada durante esta etapa del proceso no es inmutable y que será el debate oral el ámbito en el que deberá determinarse definitivamente la responsabilidad del acusado. Pero el pronunciamiento deja una enseñanza que trasciende el caso.

Durante años discutimos la evidencia digital preguntándonos si una imagen era auténtica. Ahora la inteligencia artificial nos obliga a incorporar una segunda pregunta.

¿Qué sucede cuando sabemos que la imagen es falsa pero el daño que produce es verdadero?

El derecho recién comienza a construir esa respuesta. Y deberá hacerlo rápidamente, con o sin regulación, porque la tecnología necesaria para generar un deepfake ya no está en manos de unos pocos especialistas.