deepfakes

Las autoridades francesas investigan a X, la plataforma de redes sociales propiedad de Elon Musk, por presuntas interferencias en la política francesa, así como por la difusión de negaciones del Holocausto y la creación de imágenes deepfake de contenido sexual. La investigación se extiende también a la posible complicidad en la posesión y distribución de imágenes de pornografía infantil y la violación de derechos personales.

Según Le Monde, los fiscales interpretan varios mensajes publicados por Musk en la cima de la controversia como “incitaciones” a generar imágenes no consentidas. El medio reporta que el multimillonario expresó satisfacción, utilizando numerosos emojis, sobre las capacidades de “desvestir” de su motor de inteligencia artificial, incluso compartiendo una imagen de sí mismo generada por su chatbot en bikini.

El chatbot en cuestión, Grok, tiene su propia cuenta en la red social X, permitiendo a los usuarios interactuar con él. Durante un período, los usuarios podían etiquetar al bot en publicaciones para solicitar la generación y edición de imágenes, recibiendo la imagen resultante como respuesta. Muchos usuarios enviaron a Grok fotografías de mujeres o las etiquetaron en publicaciones, solicitando indicaciones como “ponerla en bikini” o “quitarle la ropa”.

El Centro para Combatir el Odio Digital (CCDH), una organización sin fines de lucro, estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas –principalmente de mujeres, aunque también 23.000 que parecían representar a menores– en tan solo 11 días, a finales de enero.

Las autoridades francesas han citado a Musk a una “entrevista voluntaria” y registraron las oficinas locales de su red social el mes pasado, lo que Musk calificó como un “ataque político”. Un abogado de X en Francia no estaba disponible para comentar al momento de la redacción de esta nota.

En respuesta a la cobertura de la agencia AFP sobre el tema, Musk criticó a los fiscales franceses en X, en francés, calificándolos de “retrasados mentales”.

El caso ha atraído la atención internacional, con investigaciones similares abiertas en Gran Bretaña y la Unión Europea sobre la creación de los deepfakes sexualizados. Las descargas diarias promedio de la aplicación Grok a nivel mundial aumentaron un 72% del 1 al 19 de enero en comparación con el mismo período de diciembre, según datos de la firma de inteligencia de mercado Sensor Tower.