La autoridad reguladora de medios y comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación urgente con la empresa X (antes Twitter) tras denuncias sobre el posible uso de su herramienta de inteligencia artificial, Grok, para generar imágenes de contenido sexual infantil, así como imágenes de mujeres alteradas digitalmente que aparecen desnudas o en poses sexuales sin su consentimiento. La entidad también está investigando preocupaciones relacionadas con la producción de imágenes “explícitas” de personas reales.
Ofcom ha enfatizado que la legislación británica criminaliza la creación o el intercambio de imágenes íntimas o de contenido sexual sin el consentimiento de los afectados, incluso si son falsas y generadas por inteligencia artificial. Asimismo, señaló que las empresas tecnológicas están obligadas a tomar medidas para limitar la exposición de los usuarios a contenido ilegal y eliminarlo rápidamente una vez detectado.
La organización “Internet Watch Foundation” del Reino Unido ha informado haber recibido denuncias del público sobre imágenes que supuestamente fueron producidas a través de Grok en la plataforma X. Sin embargo, aclaró que hasta el momento no ha encontrado contenido que supere el umbral legal para ser clasificado como material de abuso sexual infantil.
La empresa X no ha emitido comentarios directos, pero el domingo publicó una advertencia a los usuarios instándolos a no utilizar Grok para generar contenido ilegal, incluido material de abuso sexual infantil. Elon Musk, propietario de la plataforma, declaró que aquellos que soliciten a la herramienta la creación de contenido ilícito “enfrentarán las mismas consecuencias” que si lo compartieran directamente.
¿Qué es Grok y por qué genera controversia?
صدر الصورة، Getty Images
Grok es un asistente de inteligencia artificial desarrollado por X AI e integrado en la plataforma X. Interactúa con los usuarios cuando se le menciona en las publicaciones y se utiliza habitualmente para responder preguntas o añadir contexto a los debates públicos. La herramienta está disponible de forma gratuita, con algunas funciones de pago.
Sin embargo, la controversia ha aumentado debido a que Grok no se limita al procesamiento de texto, sino que también permite la modificación de imágenes utilizando técnicas de inteligencia artificial. La BBC ha tenido acceso a ejemplos de usuarios que solicitaron a la herramienta la modificación de fotos reales de mujeres para que aparecieran en trajes de baño o en poses de carácter sexual, sin su consentimiento, e incluso su inclusión en contextos sexuales.
Aunque la política de uso de X AI prohíbe “representar a personas reales de forma pornográfica”, los informes de la BBC sugieren que esto no ha impedido que la herramienta se utilice para lo que se describe como “desnudez digital” o la producción de imágenes que simulan la desnudez.
Entre los ejemplos que han circulado en la plataforma, se encuentran imágenes modificadas digitalmente de la princesa Catalina de Gales. La BBC se puso en contacto con el Palacio de Kensington para solicitar comentarios, pero no recibió respuesta. Con la extensión del fenómeno a figuras públicas, el debate se ha ampliado para incluir los límites de la privacidad y la responsabilidad de las plataformas digitales cuando las herramientas de edición están disponibles para millones de usuarios.
¿Cómo comenzaron las denuncias?
صدر الصورة، Samantha Smith
Pocos días antes de la declaración de Ofcom, la BBC publicó el testimonio de la periodista británica Samantha Smith, quien afirma que usuarios utilizaron la herramienta de inteligencia artificial Grok para generar imágenes modificadas de ella que la muestran en trajes de baño o en contextos de carácter sexual, sin su conocimiento ni consentimiento.
Smith declaró que lo sucedido la hizo sentir “deshumanizada y reducida a un estereotipo sexual”, añadiendo que la sensación de violación no es menor para ella que la publicación de una imagen desnuda real, dado que las imágenes modificadas se parecían mucho a sus rasgos reales.
Tras la publicación de su testimonio en la plataforma X, otras mujeres interactuaron compartiendo experiencias similares. Posteriormente, algunos usuarios solicitaron a Grok la generación de más imágenes modificadas de Smith tras la difusión de su historia, lo que provocó un aumento de la indignación y la presión pública.
X AI no ha ofrecido comentarios directos sobre estas acusaciones y se limitó a una respuesta automática que acusaba a los “medios de comunicación tradicionales de mentir”.
La ley intenta ponerse al día
صدر الصورة، Getty Images
La controversia actual se enmarca en un contexto más amplio de crecientes preocupaciones sobre el contenido pornográfico “falso”.
En enero de 2024, figuras políticas en Estados Unidos pidieron nueva legislación tras la difusión de imágenes pornográficas fabricadas que utilizaban la imagen de la cantante Taylor Swift, obteniendo millones de visualizaciones en plataformas como X y Telegram. X declaró entonces que estaba trabajando para eliminar las imágenes y tomar medidas contra las cuentas que las publicaron, y también limitó la búsqueda del nombre de Swift. Una de estas imágenes había acumulado cerca de cuarenta y siete millones de visualizaciones antes de ser eliminada.
En agosto de 2025, Swift volvió a ser objeto de controversia en relación con la herramienta de generación de vídeo del ecosistema Grok, donde una experta legal declaró a la BBC que la herramienta fue acusada de producir vídeos de contenido sexual de la cantante sin una solicitud explícita de contenido sexual.
En este contexto, nuevas leyes británicas entraron en vigor a finales de julio de 2025, exigiendo a las plataformas que muestran imágenes explícitas que verifiquen la edad de los usuarios mediante métodos descritos como “técnicamente precisos, sólidos, fiables y justos”.
Ofcom ha declarado que las aplicaciones que incluyen herramientas de inteligencia artificial generativa capaces de producir material pornográfico están sujetas a estas normas reglamentarias.
En cuanto a la legislación de protección directa, avanza por dos vías paralelas. En el Reino Unido, un portavoz del Ministerio del Interior declaró que el gobierno está trabajando en una legislación que tiene como objetivo prohibir las herramientas de “desnudez digital”, tratando el suministro de esta tecnología como un nuevo delito que podría acarrear penas de prisión y fuertes multas.
En la Unión Europea, la Comisión Europea ha declarado que está examinando “seriamente” el asunto tras publicaciones atribuidas a Grok que contenían contenido sexual explícito y “algunas salidas” de carácter infantil. Un portavoz de la Comisión lo calificó de “ilegal” y “repugnante”, afirmando que “no tiene cabida en Europa”.
Añadió que X es consciente de la seriedad con la que la Unión Europea aplica sus normas a las plataformas digitales, recordando que la Unión ya le había impuesto una multa de 120 millones de euros en diciembre por infringir la Ley de Servicios Digitales.
