La Comisión Europea ha iniciado una investigación formal sobre Grok, la herramienta de inteligencia artificial integrada en la plataforma de redes sociales X, debido a su uso en la difusión de imágenes sexualmente explícitas, incluyendo posible material de abuso sexual infantil.
La investigación se produce tras una creciente preocupación por la proliferación de imágenes manipuladas sexualmente, algunas de las cuales involucran a menores de edad. El proceso se llevará a cabo en virtud de la Ley de Servicios Digitales (DSA) de la Unión Europea.
“Los ‘deepfakes’ sexuales de mujeres y niños constituyen una forma de degradación violenta e inaceptable”, declaró Henna Virkunen, Comisaria de la UE para la Soberanía Tecnológica. “Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si ha tratado los derechos de los ciudadanos europeos –incluidos los de mujeres y niños– como un daño colateral de su servicio.”
La Comisión Europea está coordinando estrechamente con Coimisiún na Meán, el regulador de medios irlandés, dado que la sede europea de X se encuentra en Irlanda. Coimisiún na Meán ha acogido con satisfacción el inicio de la investigación formal, tras “una intensa colaboración con la Comisión Europea sobre este tema en las últimas semanas”, según un comunicado oficial.
El comunicado de Coimisiún na Meán añade que la legislación europea e irlandesa impone claras responsabilidades a las plataformas en línea en relación con el contenido ilegal, y que estas leyes están respaldadas por un sistema paneuropeo de control regulatorio supervisado por la Comisión Europea y los reguladores nacionales. La entidad se ha mostrado dispuesta a participar en la investigación.
La Comisión ha señalado que X tiene la obligación, en virtud de la DSA, de llevar a cabo evaluaciones de riesgos exhaustivas en lo que respecta al contenido ilegal en sus plataformas, y que la empresa no ha incluido ninguna evaluación de riesgos relacionada con Grok.
“Cuando se analizan los informes de evaluación de riesgos que X debe publicar y presentar a la Comisión en virtud de la DSA, esto es una obligación”, explicó Thomas Regnier, portavoz de la Comisión. “Estos informes son de acceso público. La realidad es que Grok no aparece en ninguno de estos informes. Esto significa que X simplemente no ha evaluado el riesgo que Grok o las funciones de Grok integradas en X representan para nuestros ciudadanos en la UE.”
La Comisión ha afirmado que los riesgos ya se han materializado, exponiendo a los ciudadanos de la UE a daños graves. Según la DSA, la empresa de Elon Musk está obligada a evaluar y mitigar diligentemente los riesgos sistémicos, “incluida la difusión de contenido ilegal, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma”.
Paralelamente, la Comisión ha ampliado su investigación sobre X, iniciada en diciembre de 2023, para incluir sus llamados sistemas de “recomendación”, algoritmos que sugieren productos a los usuarios basándose en el análisis de su comportamiento de navegación, preferencias y datos. Esta investigación busca determinar si X ha evaluado y mitigado adecuadamente todos los riesgos sistémicos asociados a sus sistemas de recomendación, incluido el impacto del reciente cambio a un sistema de recomendación basado en Grok.
La Comisión ha colaborado estrechamente con Coimisiún na Meán, el Coordinador Digital de Servicios irlandés, en la preparación de esta investigación. Coimisiún na Meán estará asociada a la investigación, de acuerdo con el Artículo 66(3). La Comisión ha anunciado que enviará solicitudes adicionales de información a X y llevará a cabo entrevistas o inspecciones de la empresa.
La apertura de un procedimiento formal, en virtud de la DSA, otorga a la Comisión los poderes necesarios para tomar medidas de cumplimiento adicionales, como declarar a X en incumplimiento. Grok es una herramienta de inteligencia artificial desarrollada por X que, desde 2024, permite a los usuarios generar texto e imágenes y proporcionar información contextual a sus publicaciones.
En virtud de la DSA, X ha sido designada como una plataforma en línea muy grande (VLOP), lo que implica la obligación de “evaluar y mitigar cualquier riesgo sistémico potencial relacionado con sus servicios en la UE”, según una nota de la Comisión. Estos riesgos incluyen la difusión de contenido ilegal y las posibles amenazas a los derechos fundamentales, incluidos los de los menores, planteadas por su plataforma y sus funciones.
En diciembre, la Comisión Europea impuso a X una multa de 120 millones de euros por el uso de un diseño engañoso, la falta de transparencia en la publicidad y el acceso insuficiente a los datos para los investigadores, lo que está obligada a proporcionar en virtud de la DSA.
Funcionarios de la UE han señalado que las autoridades reguladoras y de prevención del delito nacionales tienen un papel que desempeñar en la lucha contra la difusión de imágenes íntimas no consentidas y de contenido ilegal. “Estamos estableciendo un caso que contextualiza esto como un problema realmente sistémico”, afirmó un alto funcionario de la UE.
Grok ha estado bajo observación durante algún tiempo, debido a un aumento de material antisemita asociado a la herramienta de IA en X el pasado otoño. El personal técnico del Centro Europeo de Transparencia Algorítmica (ECAT) en Sevilla también participó en el monitoreo de Grok. Tras esto, la Comisión solicitó información sobre las evaluaciones de riesgos que X estaba llevando a cabo sobre el papel de Grok, instando a la plataforma a realizar cambios.
“En los últimos diez días hemos tenido una interacción muy intensa con X. Es una empresa: deciden lo que deciden, pero me atrevo a decir que sin nuestra interacción, probablemente ninguno de los cambios que han realizado habría aparecido.”
Sin embargo, los funcionarios señalan que, a pesar de haber tomado algunas medidas, X aún no ha hecho lo suficiente para eliminar el riesgo “sistémico”, señalando que la empresa parece considerar a Grok como una entidad separada.
Los funcionarios han afirmado que han estado en estrecho contacto con los responsables de cumplimiento de X y que han sido “cooperativos” y han proporcionado información. Tras la multa impuesta a X a finales de 2025, la empresa dispondrá de tres meses para pagarla.
Regina Doherty, miembro del Parlamento Europeo en representación de Irlanda, declaró en un comunicado que daba la bienvenida a la decisión de la Comisión de abrir una investigación formal. “Cuando surgen informes creíbles sobre el uso de sistemas de IA de formas que dañan a mujeres y niños, es esencial que la legislación de la UE se examine y se aplique sin demora”, afirmó Doherty.
Doherty añadió que las imágenes habían puesto de manifiesto debilidades más amplias en la forma en que se regulan y se aplican las tecnologías emergentes de IA. “La Unión Europea tiene reglas claras para proteger a las personas en línea. Esas reglas deben significar algo en la práctica, especialmente cuando se implementan tecnologías potentes a gran escala. Ninguna empresa que opere en la UE está por encima de la ley”, concluyó.
Maria Walsh, otra diputada de Fine Gael, declaró que la Comisión Europea debería suspender inmediatamente el uso de Grok en la UE mientras lleva a cabo la investigación.
