Una nueva demanda colectiva presentada en un tribunal federal de California acusa a xAI de entrenar las capacidades de deepfake y generación sintética de su chatbot Grok utilizando imágenes reales de abuso sexual infantil y fotografías de menores alteradas sin su consentimiento.
La demanda colectiva, interpuesta en un tribunal federal del Distrito Norte de California, coloca a la empresa de inteligencia artificial de Elon Musk en el centro de una grave controversia legal sobre la seguridad de sus modelos generativos y la moderación de contenidos en la plataforma de redes sociales X.
Acusaciones de uso de material de abuso infantil en el entrenamiento de Grok
La acción legal sostiene que la compañía no implementó los controles básicos que utilizan otros laboratorios del sector tecnológico para evitar que sus herramientas generen pornografía a partir de fotografías reales de personas y menores de edad. Según los documentos presentados por los demandantes, identificados de manera anónima, las capacidades de Grok para alterar imágenes y crear contenido explícito fueron entrenadas con archivos de abuso infantil que circulan en internet desde hace dos décadas.
Uno de los casos centrales involucra a una demandante anónima identificada como Jane Doe 1, quien fue catalogada como víctima de pornografía infantil por el programa de notificación de explotación del Buró Federal de Investigaciones (FBI). De acuerdo con la investigación y los expedientes judiciales citados en el caso, los archivos vinculados a su abuso presentan valores de hash reconocidos por las autoridades y han sido detectados en imágenes de tipo deepfake generadas mediante el sistema de xAI.
El impacto del volumen masivo de imágenes sexualizadas generadas por la plataforma
Las tensiones en torno al funcionamiento del chatbot se intensificaron a raíz de un incremento drástico en la producción de material sexualizado en la plataforma. Investigaciones de organizaciones independientes señalan que, en un periodo de once semanas y días analizado entre diciembre de 2025 y enero de 2026, el sistema produjo millones de imágenes de carácter erótico, de las cuales decenas de miles aparentaban mostrar a menores de edad.
Ante la controversia, la defensa legal de los afectados subraya las diferencias en las políticas de seguridad frente a otras empresas competidoras del mercado de la inteligencia artificial. Mientras que firmas como OpenAI, Anthropic y Meta aplican bloqueos estrictos a las solicitudes de contenido sexual explícito, la demanda detalla que xAI optó inicialmente por restringir temporalmente la función a usuarios de pago en lugar de desactivarla por completo tras los primeros reportes de uso indebido.
Fundamentos legales y demandas de reparación bajo la ley estadounidense
Los demandantes buscan que el proceso avance como una demanda colectiva para representar a todas las víctimas cuyas imágenes de la infancia hayan sido empleadas o reproducidas por la tecnología de xAI. El recurso legal exige compensaciones económicas amparadas en normativas federales y estatales de protección a menores.
Entre los fundamentos jurídicos destaca la aplicación de Masha’s Law, una legislación federal aprobada en 2018 que permite a los sobrevivientes de delitos de pornografía infantil reclamar indemnizaciones de al menos 150,000 dólares por cada infracción. Además de la compensación monetaria, los representantes legales exigen que el tribunal ordene a la empresa la destrucción inmediata de todo el material generado por Grok que permanezca almacenado en sus servidores y el establecimiento de bloqueos permanentes contra este tipo de contenidos.
Sarah London, abogada de los demandantes, señaló a través de Ars Technica que xAI debe ser responsabilizada por entrenar a sabiendas sus modelos con imágenes del horrible abuso que ella sufrió y con las imágenes de abuso de todos los demás sobrevivientes incluidos en este grupo.
Antecedentes judiciales y el escrutinio sobre el modelo de negocio de xAI
Este litigio se suma a otros procedimientos legales en curso que involucran el uso indebido de las herramientas de inteligencia artificial de la empresa de Elon Musk. En casos previos documentados ante la justicia estadounidense, se han reportado incidentes donde particulares utilizaron las funciones de Grok para generar material explícito no consentido de menores conocidos, lo que derivó en detenciones policiales e investigaciones criminales en distintas jurisdicciones.
Mientras la compañía enfrenta un escrutinio internacional y una creciente presión regulatoria por parte de fiscalías estatales en Estados Unidos, los representantes legales de las víctimas insisten en que la integración de las capacidades de modificación de imágenes directamente en la red social X facilitó la creación y distribución masiva de contenidos perjudiciales sin los filtros de seguridad adecuados.
Sigue leyendo