Deepfakes sexuales: la violencia que facilita la IA y que no termina al borrar una imagen

Una mujer abre sus redes sociales y descubre que su rostro aparece en un video pornográfico. Nunca participó en esa grabación, no estuvo en ese lugar, no realizó esas acciones y tampoco autorizó que su imagen fuera utilizada de esa manera. Sin embargo, el contenido existe, circula y puede llegar a personas de su entorno, instalando la duda de si lo que muestra podría ser real.

Ese es uno de los riesgos de los deepfakes sexuales, imágenes o videos de contenido sexual creados o manipulados mediante inteligencia artificial (IA) sin el consentimiento de la persona representada. Hoy es posible generar escenas desde cero o producirlas a partir de una fotografía, sin necesidad de tener grandes conocimientos de edición. Y aunque lo que muestran nunca haya ocurrido, las consecuencias para quienes aparecen en ellas pueden ser muy reales.

“La agresión no empieza cuando la imagen se empieza a difundir, sino que cuando la produzco”, plantea Elena Román, doctora en Sociología por la Universidad de Salamanca y académica del Departamento de Sociología de la Universidad Alberto Hurtado, durante un conversatorio sobre inteligencia artificial y violencia de género realizado en el marco de la segunda Semana de la Inteligencia Artificial de esa casa de estudios.

La investigadora, que estudia las violencias contra las mujeres en entornos digitales, propone una distinción importante. El problema no comienza necesariamente cuando una imagen llega a otras personas. Crear una representación sexual de alguien sin su consentimiento ya supone una vulneración de su autonomía, incluso si ese contenido nunca se comparte. Desde esa perspectiva, los deepfakes sexuales no pueden entenderse únicamente como un problema de difusión de imágenes falsas, sino como una nueva forma de ejercer violencia sexual.

Una nueva tecnología para una violencia conocida

Los deepfakes sexuales pueden adoptar distintas formas. Una de ellas es la llamada nudificación, que consiste en manipular una fotografía para representar a una persona desnuda o con poca ropa. Otra es el face swapping, que permite reemplazar el rostro de alguien en un video sexual preexistente. También es posible generar escenas mediante inteligencia artificial que nunca fueron grabadas.

Aunque estas herramientas son relativamente nuevas, Román advierte que la violencia que permiten ejercer tiene antecedentes mucho más antiguos. El control sobre los cuerpos y la sexualidad de las mujeres ha sido una expresión histórica de la violencia de género. Lo que cambia con la inteligencia artificial son las condiciones en que puede producirse esa violencia. Hoy resulta más fácil crear contenido sexual falso, hacerlo rápidamente y conseguir que llegue a muchas personas.

Pero la investigadora plantea que no basta con responsabilizar a quienes utilizan estas herramientas. También es necesario observar cómo están diseñadas las tecnologías y qué facilidades ofrecen para cometer estas agresiones.

“El diseño de las tecnologías tienen guiones. El guión de una plataforma de deepfakes es que no cuesta nada hacerlas, circulan super rápido y sin ningún control, lo que provoca que se puedan hacer de manera que no te pillen. Además, el contenido es dificilísimo de bajar. Entonces, es un guión que premia la agresión y que dificulta que la persona pueda defenderse”, explica la académica.

Con la idea de estos «guiones», Román apunta a que el diseño de una tecnología también influye en la manera en que las personas la utilizan. Si una aplicación permite crear imágenes sexuales falsas en pocos segundos, sin mayores restricciones y con escasas posibilidades de identificar a quien las produce, esas características facilitan que la violencia ocurra.

Por eso propone mirar el fenómeno como un circuito en el que participan distintos actores. Está quien crea la imagen, pero también las aplicaciones que permiten producirla, las plataformas donde se comparte, quienes deciden reenviarla y las instituciones encargadas de responder cuando alguien denuncia.

Desde esa perspectiva, enfrentar los deepfakes sexuales no consiste únicamente en perseguir a quien difunde una imagen. También supone preguntarse qué responsabilidades tienen quienes desarrollan estas tecnologías y qué mecanismos existen para impedir que sean utilizadas con estos fines.

Imágenes falsas con consecuencias reales

Aunque las escenas representadas en un deepfake sexual nunca hayan ocurrido, sus consecuencias pueden extenderse a distintos ámbitos de la vida de una persona.

Román menciona investigaciones sobre abuso sexual basado en imágenes que describen sentimientos de culpa, vergüenza y miedo, además de cuadros de depresión y estrés postraumático. También existen testimonios de personas que han enfrentado consecuencias laborales y sociales después de que este tipo de material comenzara a circular.

Una de las dificultades es que, aun cuando la persona afectada sabe que la imagen es falsa, puede terminar sintiendo que debe dar explicaciones por algo que nunca hizo.

“La responsabilidad y la culpa queda en el terreno de la víctima, ella tiene que cargar con un secreto de algo que nunca hizo”, señala la investigadora, quien advierte que esa situación puede terminar aislando socialmente a las personas afectadas.

A esto se suma una característica de la circulación de contenidos digitales que hace especialmente difícil reparar el daño. Aunque una imagen sea eliminada de una plataforma, eso no significa que hayan desaparecido todas sus copias. Quien fue representada puede desconocer cuántas personas la vieron, quiénes la descargaron o si el contenido volverá a aparecer meses o años después.

“Nunca sabes hasta dónde ha llegado, y aunque se pongan medidas y se lograre bajar el contenido, no sabes quién lo tiene. Entonces, ese es un miedo real y aparece la angustia de cómo me recupero de un daño que en cualquier momento pueden volver a hacerme”.

Esa incertidumbre puede prolongar el miedo mucho después de que la imagen haya dejado de circular públicamente. También puede afectar la confianza en otras personas y la libertad para desenvolverse en espacios digitales y sociales.

La socióloga advierte, además, sobre otra forma de revictimización. Cuando se minimiza lo ocurrido con el argumento de que la imagen fue generada mediante inteligencia artificial y, por lo tanto, no es real, se desconoce la experiencia de quien enfrenta sus consecuencias.

La falsedad del contenido no elimina la violencia de haber sido representada sexualmente sin consentimiento. Y tampoco evita que otras personas puedan creer que lo que están viendo ocurrió.

¿Qué dice la legislación en Chile?

En Chile existen normas que sancionan determinadas conductas relacionadas con la difusión no consentida de imágenes íntimas, pero todavía no hay una regulación específica e integral de los deepfakes sexuales.

La Ley N.º 21.675, conocida como Ley Integral contra la Violencia hacia las Mujeres y promulgada en junio de 2024, incorporó al Código Penal el artículo 161-D. Esta disposición sanciona la exhibición no autorizada de registros de carácter sexual que involucren a otra persona o de imágenes íntimas de connotación sexual. También establece penas para quienes envíen, difundan o publiquen ese material.

Sin embargo, la existencia de estas sanciones no resuelve por sí sola el problema de las imágenes sexuales creadas mediante inteligencia artificial, especialmente cuando se trata de su producción y no de su difusión.

En agosto de 2025 ingresó al Congreso un proyecto de ley que busca regular la creación y difusión de imitaciones digitales realistas de la imagen, el cuerpo o la voz de las personas mediante inteligencia artificial. La iniciativa, aprobada en general por la Cámara de Diputadas y Diputados en julio de 2026, continúa su tramitación legislativa.

El proyecto busca proteger a las personas frente a la utilización no consentida de su identidad digital. Sin embargo, Román cuestiona que su enfoque sea general y no aborde de manera específica la violencia sexual que puede ejercerse mediante estas tecnologías.

“Tiene que ver con la protección de la imagen, de la reputación, evitar la falsedad, pero no tiene enfoque de género ni aborda la sexualidad”, plantea.

Para la investigadora, esta diferencia es fundamental. No se trata solamente de proteger la imagen o la reputación de una persona, sino también de reconocer la violencia que supone utilizar su cuerpo y su identidad para crear contenido sexual sin su consentimiento.

De ahí que insista en la necesidad de poner atención tanto en la difusión como en la producción de estas imágenes. Si la agresión puede comenzar antes de que el contenido llegue a otras personas, las respuestas legales y las medidas de prevención también deberían considerar ese momento.

La propuesta de Román es ampliar la mirada hacia todo el proceso que hace posible esta violencia, desde las herramientas utilizadas para crear las imágenes hasta las plataformas que permiten su circulación y las respuestas que reciben quienes denuncian.

Porque, como plantea la socióloga, si la violencia comienza cuando alguien decide crear una representación sexual de otra persona sin su consentimiento, esperar a que esa imagen circule para intervenir significa actuar cuando la agresión ya ocurrió.