Susurros la siguieron fuera de línea. En línea, el abuso explotó, sin control: comentarios, burlas, comparticiones, capturas de pantalla. Ella nunca había consentido nada de ello. Eso no detuvo a nadie.
En cuestión de minutos, miles de personas vieron el contenido. En horas, millones.
La pesadilla apenas comenzaba.
Pasaron días antes de que las plataformas respondieran. Para entonces, las imágenes habían sido vistas, guardadas y replicadas. Se quedó preguntando: ¿A quién denuncio esto? ¿Alguien me creerá? ¿Enfrentarán los responsables alguna consecuencia? ¿O la culpa recaerá sobre mí?
Esta es la realidad que enfrentan miles de mujeres y niñas cada día. Los deepfakes basados en inteligencia artificial están destruyendo vidas reales y la justicia sigue fuera del alcance de la mayoría de las sobrevivientes.
Su historia podría ser la tuya.
El abuso con deepfakes es la punta de lanza de un patrón mucho más amplio de violencia digital dirigida a mujeres y niñas. Es un problema de género y está en aumento. En este momento, los sistemas diseñados para proteger a las personas están fallando, mientras que las herramientas para causar daño se vuelven más baratas, rápidas y fáciles de usar cada día.
Lo que necesitas saber:
¿Qué es el abuso con deepfakes y qué tan común es?
Los deepfakes son imágenes, audios o videos manipulados por inteligencia artificial (IA) que hacen que parezca que alguien dijo o hizo algo que nunca hizo.
La tecnología en sí no es nueva, pero su utilización como arma contra mujeres y niñas es un fenómeno más reciente y se está acelerando rápidamente.
- Según un informe de 2023, el 98 por ciento de los videos deepfake en línea son pornografía y el 99 por ciento representan a mujeres.
- Se estima que los videos deepfake fueron un 550 por ciento más frecuentes en 2023 que en 2019.
- Las herramientas para crearlos están ampliamente disponibles, generalmente son gratuitas y requieren muy poca experiencia técnica.
- Una vez publicados, los contenidos generados por IA pueden replicarse infinitamente, guardarse en dispositivos privados y compartirse en diferentes plataformas, lo que dificulta enormemente su eliminación completa.
Por qué las sobrevivientes no denuncian y qué sucede cuando lo hacen
La falta de denuncias es una de las mayores barreras para la rendición de cuentas. Para las sobrevivientes que sí se presentan, el sistema de justicia a menudo se convierte en otra fuente de trauma.
- Se les pide repetidamente a las sobrevivientes que vean y describan contenido abusivo a la policía, abogados y moderadores de plataformas, mientras a menudo se enfrentan a preguntas como “¿estás segura de que no es real?” o “¿compartiste imágenes íntimas antes?”.
- Si un caso llega a los tribunales, su vestimenta, relaciones y comportamiento pasado se examinan minuciosamente, no la conducta del agresor.
- El daño no se queda en línea, según una encuesta de UN Mujeres, que encontró que el 41 por ciento de las mujeres en la vida pública que experimentaron violencia digital también denunciaron haber sufrido ataques o acoso fuera de línea relacionados con ella.
Por qué los creadores de deepfakes rara vez enfrentan la justicia
A pesar de la magnitud del daño, las enjuiciamientos son raros, las plataformas suelen no actuar y las sobrevivientes a menudo son revictimizadas cuando intentan buscar ayuda. Esto se debe a:
La ley no se ha puesto al día, ya que menos de la mitad de los países tienen leyes que aborden el abuso en línea y aún menos tienen legislación que cubra específicamente el contenido deepfake generado por IA.
- La mayoría de las leyes sobre “pornografía vengativa” o abuso basado en imágenes se redactaron antes de que existieran los deepfakes, dejando lagunas importantes.
- En muchos países, la pornografía deepfake o las imágenes desnudas generadas por IA entran en áreas grises legales.
- Las sobrevivientes no están seguras de si el abuso es siquiera ilegal y si los agresores pueden ser procesados.
La aplicación de la ley está rezagada porque, incluso cuando existen leyes, los investigadores necesitan experiencia en informática forense, coordinación transfronteriza y cooperación de las plataformas para construir un caso, mientras que la mayoría de los sistemas de justicia no tienen recursos adecuados para ninguna de estas cosas.
- La evidencia desaparece rápidamente a medida que el contenido se difunde y se multiplican las copias, mientras que los agresores se esconden detrás del anonimato u operan a través de jurisdicciones.
- Las plataformas son lentas o se niegan a compartir datos con las fuerzas del orden, especialmente en casos transfronterizos.
- Los retrasos en la informática forense significan que los casos se estancan antes de comenzar.
Las plataformas tecnológicas están fallando a las sobrevivientes, ya que durante mucho tiempo se han escondido detrás del estatus de “intermediarios” para evitar la responsabilidad del contenido generado por los usuarios.
Qué debe suceder ahora
Si bien varias naciones y regiones están tomando medidas (ver recuadro de texto a continuación), detener el abuso con deepfakes requiere una acción urgente y coordinada de los gobiernos, las instituciones y las plataformas tecnológicas.
Aquí hay cinco cosas que deben suceder:
1. Leyes que realmente cubran el abuso con deepfakes
Los gobiernos deben aprobar legislación con definiciones claras del abuso generado por IA, centrándose en el consentimiento, la responsabilidad estricta de los agresores, las obligaciones de eliminación rápida para las plataformas y los protocolos de aplicación transfronteriza.
2. Sistemas de justicia que puedan investigar y procesar
Las fuerzas del orden necesitan capacitación, recursos y capacidad dedicada para recopilar y preservar evidencia digital, al tiempo que se abordan los retrasos en la informática forense, con marcos de cooperación internacional que se vuelvan rápidos, funcionales y adecuados para el propósito.
3. Plataformas que rindan cuentas
Las empresas tecnológicas deben estar legalmente obligadas a monitorear de forma proactiva y eliminar el contenido abusivo dentro de plazos obligatorios, cooperar con las fuerzas del orden y enfrentar consecuencias financieras reales cuando no actúen.
4. Apoyo real para las sobrevivientes
Deberían estar disponibles profesionales del derecho y de las fuerzas del orden capacitados y con sensibilidad ante los traumas, así como asistencia legal gratuita.
5. Educación que prevenga el abuso
La alfabetización digital, incluida la educación sobre el consentimiento, la seguridad en línea y qué hacer cuando se experimenta abuso, debe comenzar a una edad temprana y llegar a todos, ya que la prevención es tan importante como el enjuiciamiento.
UN Mujeres advierte que este no es un problema de internet de nicho: “Es una crisis global”.
- En un caso reciente de alto perfil, la periodista británica Daisy Dixon descubrió imágenes sexualizadas generadas por IA de sí misma en X en diciembre de 2025, creadas utilizando la propia herramienta Grok AI de la plataforma. tardaron días en que la plataforma bloqueara geográficamente la función, mientras que el abuso continuaba propagándose.
- El abuso con deepfakes puede servir como catalizador en línea para los llamados “crímenes basados en el honor” en ciertos contextos culturales, donde una percepción de violación de las normas de honor en las plataformas digitales puede resultar en violencia física extrema contra las mujeres, o incluso la muerte.
- Más de la mitad de las víctimas de deepfakes en los Estados Unidos de América contemplaron el suicidio, según investigaciones recientes.
Mientras tanto, algunas jurisdicciones están comenzando a actuar:
- Brasil modificó su código penal en 2025, aumentando la pena por causar violencia psicológica a las mujeres utilizando IA u otra tecnología para alterar su imagen o voz.
- El acto de inteligencia artificial (IA) de la Unión Europea impone obligaciones de transparencia en torno a los deepfakes.
- La Ley de Seguridad en Línea del Reino Unido prohíbe compartir imágenes explícitas manipuladas digitalmente, pero no aborda la creación de deepfakes y puede no aplicarse cuando no se puede demostrar la intención de causar angustia.
- La Ley Take It Down de los Estados Unidos cubre explícitamente las imágenes íntimas generadas por IA y exige la eliminación de la plataforma en un plazo de 48 horas.
