Adolescentes de Tennessee demandan a xAI, la empresa de Elon Musk, alegando que su herramienta de inteligencia artificial, Grok, generó imágenes de ellas sin ropa cuando eran menores de edad, lo que representa el último desafío para la persona más rica del mundo y su chatbot.
Las tres demandantes, dos de las cuales son menores de edad actualmente, buscan una compensación económica después de que imágenes generadas por IA se difundieran en Discord y Telegram, y finalmente se utilizaran como moneda de cambio para que otros usuarios obtuvieran más material de abuso sexual infantil, según la denuncia detallada en un reciente informe del Washington Post.
“xAI, y su fundador Elon Musk”, señala la demanda, “vieron una oportunidad de negocio: la oportunidad de obtener beneficios de la depredación sexual de personas reales, incluidos niños”.
Una de las demandantes relató que recibió un enlace a un servidor de Discord “que contenía imágenes y videos de al menos 18 otras menores, muchas de las cuales Jane Doe 1 reconoció de su escuela”, según alega la demanda.
Algunas de las imágenes provenían de fotos de su fiesta de bienvenida o del anuario escolar.
La demanda se produce tras meses de críticas contra el chatbot de Musk después de que la empresa permitiera que Grok desnudara a personas sin su consentimiento utilizando la herramienta “Imagine”. La denuncia argumenta que “un modelo que puede crear imágenes sexualizadas de adultos no puede evitar la creación de CSAM de menores”. De acuerdo con informes anteriores de The Post, la anterior indulgencia de Grok al satisfacer las solicitudes sexualmente explícitas de los usuarios era una técnica de marketing destinada a aumentar la popularidad del chatbot.
Musk y su empresa no respondieron a las consultas de The Post en relación con la demanda presentada en Tennessee. Musk ha insistido repetidamente en que la responsabilidad recae en los usuarios individuales que solicitan dicho contenido y ha afirmado que Grok “se negará a producir cualquier cosa ilegal”, a pesar de que el propio chatbot, en al menos una ocasión, publicó que sus acciones podrían haber violado la Ley TAKE IT DOWN de 2025, legislación que penaliza la publicación no consentida de imágenes íntimas, incluidas las deepfakes generadas por IA.
Según una investigación del Centro para Combatir el Odio Digital, Grok generó aproximadamente 3 millones de imágenes sexualizadas en solo 11 días, del 29 de diciembre al 8 de enero. Alrededor de 23.000 de esas imágenes, según los investigadores, parecían representar a niños. En una publicación del 14 de enero, Musk afirmó que no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. “Literalmente cero”.
Más tarde ese mes, 35 fiscales generales estatales enviaron una carta a xAI exigiendo que la empresa “tome todas las medidas necesarias para garantizar que Grok ya no sea capaz de producir” este tipo de imágenes sexuales no consentidas y material de abuso sexual infantil. La Unión Europea y los reguladores del Reino Unido y California han iniciado investigaciones sobre Grok.
En enero, tras las crecientes objeciones éticas y legales a nivel internacional sobre la difusión masiva de imágenes sexuales no consentidas, algunas de las funciones de generación de imágenes “Imagine” de Grok se limitaron a los usuarios de pago de X. Sin embargo, las herramientas de imagen de Grok aún parecen estar disponibles de forma gratuita en el sitio web y la aplicación independientes. E incluso si restringir algunos elementos del servicio a los usuarios de pago pudiera limitar la cantidad de material, introducir una tarifa nominal para aquellos que esperan crear imágenes sexuales no consentidas de personas, incluidos menores, no responde a una pregunta legal clave: ¿Se modificará Grok de manera significativa para proteger a las mujeres y a las niñas de este tipo de abuso digital?
Las adolescentes de Tennessee son solo algunas de las muchas mujeres que se han visto afectadas por el “desnudado” de Grok, incluyendo al menos a una mujer que Musk conoce personalmente.
Ashley St. Clair, una creadora de contenido conservadora que tiene un hijo con Musk, dijo que Grok creó imágenes sexuales no consentidas de ella. Algunas de las imágenes, según una entrevista que concedió a NBC News, eran de cuando St. Clair era menor de edad.
Annika K. Martin, la abogada principal del caso, le hizo una pregunta a Musk como padre:
“La voz de tu hijo en un video gritando. ¿Puedes imaginar eso como padre?” preguntó. “¿Puedes imaginar eso por tu hijo y sentirte bien con lo que has hecho?”
