La polémica generada por la creación y difusión de imágenes sexualmente explícitas de menores por parte del chatbot Grok, de la empresa de inteligencia artificial xAI fundada por Elon Musk, ha acelerado los debates sobre la necesidad de regular o incluso prohibir el acceso de los menores a las redes sociales. Francia ha dado un paso adelante al aprobar una ley que prohíbe el uso de redes sociales a menores de 15 años, mientras que Reino Unido, España y Grecia están considerando medidas legislativas similares.
La controversia surgió a finales de 2025 y principios de 2026, cuando se descubrió que Grok había generado y publicado en X (anteriormente Twitter) un gran número de imágenes de contenido sexual que representaban a mujeres y menores. En ese momento, X había añadido una función de “edición de imágenes” que permitía modificar las fotos con simples comandos de texto, sin el consentimiento del usuario original. Esto llevó a la difusión de imágenes con un mayor nivel de exposición de las personas representadas.
◇ Grok, reconoce fallos en la protección de imágenes de menores
El Centro de Respuesta al Odio Digital (CCDH) estimó que, entre el 29 de diciembre de 2025 y el 8 de enero de 2026, Grok generó aproximadamente 3 millones de imágenes de contenido sexual, incluyendo 23.000 imágenes de explotación sexual infantil. Esto equivale a alrededor de 190 imágenes generadas por minuto.
Ante la creciente polémica, xAI admitió oficialmente el 2 de enero los fallos en su sistema, declarando que, en respuesta a algunas solicitudes, había generado imágenes de menores con vestimenta mínima (bikinis, ropa interior y otras prendas reveladoras). Posteriormente, el 14 de enero, la empresa anunció que había restringido la función de edición de imágenes y bloqueado la generación de imágenes explícitas basadas en la ubicación del usuario. Sin embargo, las críticas no cesaron, ya que continuaron apareciendo imágenes sintéticas que representaban a personas que parecían menores de edad.
La controversia en torno a Grok ha llevado a acciones directas por parte de varios gobiernos. Indonesia bloqueó temporalmente el acceso a Grok el 10 de enero, alegando el riesgo de propagación de pornografía generada por inteligencia artificial, convirtiéndose en el primer país en tomar esta medida. Tras el compromiso de X de cumplir con las leyes locales y mejorar las medidas de seguridad, el gobierno indonesio autorizó la reanudación del servicio de forma condicional el 1 de febrero.
◇ Francia prohíbe el uso de redes sociales a menores de 15 años… Reino Unido avanza en la legislación
En Europa, este incidente ha intensificado la demanda de una mayor regulación de las redes sociales. La Asamblea Nacional francesa aprobó el pasado mes una ley que prohíbe el uso de redes sociales a menores de 15 años, con 130 votos a favor y 21 en contra. La ley busca impedir la creación de nuevas cuentas por parte de menores de 15 años, eliminar las existentes y obligar a la implementación de sistemas de verificación de edad robustos. El gobierno francés planea aplicar estas medidas a las nuevas cuentas a partir de septiembre. El presidente Emmanuel Macron declaró el día anterior a la aprobación de la ley que “las emociones de nuestros hijos y adolescentes no deben ser objeto de venta o manipulación por parte de plataformas estadounidenses o algoritmos chinos”.
Reino Unido también ha iniciado el proceso legislativo. El gobierno británico abrió una audiencia pública el 19 de enero para examinar formalmente la posibilidad de prohibir el uso de redes sociales a menores de 16 años, y una enmienda en este sentido fue aprobada en la Cámara de los Lores el 21 de enero. La decisión final dependerá del voto de la Cámara de los Comunes. El primer ministro español, Pedro Sánchez, anunció el 2 de febrero en la Cumbre Mundial de Gobiernos que está considerando prohibir el uso de redes sociales a menores de 16 años y la aprobación de leyes que responsabilicen personalmente a los directivos de las plataformas. En Grecia, Eslovenia y la República Checa también se están debatiendo proyectos de ley para prohibir el acceso a menores de 15 años.
Las organizaciones internacionales también han elevado sus advertencias. UNICEF expresó su preocupación el 4 de febrero por el aumento de imágenes de niños sexualmente explícitas generadas con inteligencia artificial. Según UNICEF, al menos 1,2 millones de niños en 11 países han denunciado haber sido víctimas de la manipulación de sus imágenes en deepfakes de contenido sexual durante el último año. UNICEF ha instado a los gobiernos a criminalizar la creación de contenido de abuso sexual infantil basado en inteligencia artificial, a las empresas desarrolladoras a considerar la seguridad desde la fase de diseño y a las plataformas a invertir en tecnologías de detección.
Por 채예빈, 기자 더나은미래
