El bot de inteligencia artificial Grok ha sido ampliamente utilizado para manipular fotografías y representar a mujeres y niñas en bikinis. “Creemos que X ha infringido las obligaciones del DSA”, declaró un portavoz de la Comisión Europea en Bruselas. La empresa estadounidense del multimillonario tecnológico es sospechosa de no haber evaluado y reducido adecuadamente los riesgos asociados con el lanzamiento de su aplicación de IA en la plataforma en línea.
Con la implementación de la Ley de Servicios Digitales (DSA), la Unión Europea exige a las grandes plataformas de Internet que eliminen contenidos ilegales, incluyendo imágenes sexualizadas, pornografía infantil, amenazas de muerte y símbolos nazis, que están prohibidos tanto en línea como fuera de ella.
xAI, el desarrollador de Grok, presentó a finales del año pasado una nueva función para “desvestir” a personas. Numerosas mujeres descubrieron posteriormente que se estaban difundiendo deepfakes sexualizados de ellas. Tras las protestas, incluidas las de la UE, la empresa de Musk anunció cambios para restringir el modo denominado “Spicy Mode”.
“Este tipo de contenido no tiene cabida en Europa”
Actualmente, la función está limitada a los usuarios de pago, una medida que también ha sido duramente criticada. La Comisión Europea tampoco considera que este paso sea suficiente. “El material de abuso infantil no es un privilegio para los usuarios premium”, afirmó un portavoz de la Comisión. “Este tipo de contenido no tiene cabida en Europa”.
Las imágenes de IA son “una forma de humillación violenta e inaceptable”, declaró Henna Virkkunen, comisaria europea de Digital. La Comisión investigará ahora si X cumple con las leyes de la UE en lo que respecta a las directrices internas de Grok o si “ha tratado los derechos de los ciudadanos europeos – incluidas las mujeres y los niños – como un daño colateral”.
Posibles sanciones elevadas
Además de la nueva investigación, ya existe un procedimiento en curso que investiga a X por la difusión de representaciones de violencia y discurso de odio. Al mismo tiempo, el inicio del nuevo procedimiento no constituye una prueba de infracción del DSA. Sin embargo, si X no cede o no proporciona pruebas que lo exculpen, se enfrentará a fuertes sanciones.
Sin embargo, se descartó una sanción o suspensión del servicio por el momento: la desactivación de Grok en la UE no es el objetivo de la Comisión Europea y sería más bien una medida definitiva, como ya declaró un portavoz de la Comisión. La duración del procedimiento iniciado ahora es incierta.
Se estima que Grok ha generado tres millones de imágenes de mujeres desnudas
Según el Centro contra el Odio en Internet (CCDH), con sede en Estados Unidos y el Reino Unido, Grok habría publicado alrededor de tres millones de imágenes de IA de mujeres y niñas en bikini y en poses sexualizadas. Se estima que “23.000 imágenes muestran aparentemente a niños”, declaró el CCDH a finales de la semana pasada en Washington.
Los tres millones de imágenes explícitas fueron generadas por Grok en un período de once días y publicadas a través de X, según el informe del CCDH. Esto equivale a 190 imágenes por minuto. Entre las mujeres afectadas se encuentran celebridades como la cantante estadounidense Taylor Swift, la actriz Selena Gomez y la exvicepresidenta estadounidense Kamala Harris.
Retraso por la amenaza de aranceles estadounidenses
Inicialmente, el inicio de la investigación de la UE se había pospuesto por motivos políticos, según informó el periódico alemán “Handelsblatt” el lunes. La Comisión ya había planeado iniciar el procedimiento la semana pasada, pero lo pospuso debido a la amenaza de aranceles del presidente estadounidense Donald Trump contra ocho estados miembros de la OTAN.
Indonesia y Malasia han bloqueado el servicio
Indonesia y Malasia fueron los primeros países del mundo en bloquear Grok a mediados de enero. El bot será bloqueado “para proteger a las mujeres, los niños y al público de los riesgos de contenido pornográfico falso”, según declaró Indonesia. Los deepfakes “no consentidos” son una “grave violación de los derechos humanos (…)”.
La autoridad reguladora de medios británica Ofcom también inició una investigación oficial a mediados de enero. La autoridad justificó su decisión con las imágenes sexualizadas generadas por Grok, que en algunos casos podrían considerarse abuso. El primer ministro británico Keir Starmer calificó las creaciones de IA de “repugnantes”.
La fiscalía de París investiga a X desde el verano de 2025. La investigación original se centra en la acusación de que los algoritmos de la red social podrían haber sido modificados para dar más visibilidad a contenidos de extrema derecha. Ahora también existen acusaciones de negación del Holocausto y de imágenes sexuales.
WhatsApp deberá cumplir con normas digitales de la UE más estrictas
El servicio de mensajería WhatsApp, del grupo Facebook Meta, deberá cumplir en el futuro con normas digitales de la UE más estrictas. El número de usuarios ha alcanzado un umbral decisivo, por lo que los canales abiertos ahora deberán cumplir con la legislación digital europea, según declaró la Comisión Europea. WhatsApp deberá implementar las nuevas directrices en un plazo de cuatro meses.
Los canales privados no se ven afectados
Las autoridades de Bruselas enfatizaron que los canales de mensajería privados y los mensajes directos no se ven afectados. En cambio, se trata de los canales abiertos dentro de la aplicación. Concretamente, estas partes de WhatsApp también entran ahora bajo el ámbito de aplicación del DSA y, según la Comisión, se consideran similares a una plataforma de redes sociales.
La Ley de Servicios Digitales tiene como objetivo garantizar, entre otras cosas, que las plataformas eliminen rápidamente los contenidos ilegales de terceros en sus sitios o, en el caso de WhatsApp, en sus canales. También tiene como objetivo proteger contra la manipulación electoral y establece normas de transparencia para el tratamiento de la publicidad en las plataformas en línea.
