El gobierno del Reino Unido ha calificado de “insultante” la decisión de la plataforma X, propiedad de Elon Musk, de limitar las ediciones de imágenes generadas por inteligencia artificial (IA) Grok a usuarios de pago, especialmente en relación con las víctimas de misoginia y violencia sexual.
Downing Street declaró este viernes que la medida “simplemente convierte una función de IA que permite la creación de imágenes ilegales en un servicio premium”. Esta reacción se produce tras una fuerte polémica generada por el uso de Grok para desnudar digitalmente a personas sin su consentimiento cuando eran etiquetadas en imágenes publicadas en X, una práctica que la compañía afirma ahora restringir a aquellos que pagan una suscripción mensual.
Sin embargo, la herramienta de IA aún puede editar imágenes en X si se accede a ella a través de otras áreas de la plataforma, como su función integrada de “editar imagen” o en su aplicación y sitio web independientes.
La BBC ha contactado con X para obtener comentarios.
Un portavoz del primer ministro declaró a los periodistas el viernes que la acción demuestra que X “puede actuar con rapidez cuando lo desea”. Añadió que “es evidente que X debe actuar y debe hacerlo ahora”.
“Es hora de que X aborde este problema. Si otra empresa de medios tuviera vallas publicitarias en los centros de las ciudades mostrando imágenes ilegales, actuaría de inmediato para retirarlas o se enfrentaría a una reacción pública”, agregó.
Los Demócratas Liberales han pedido que se restrinja temporalmente el acceso a X en el Reino Unido mientras se investiga el sitio de redes sociales.
“Musk ha reaccionado como un niño ante la exigencia de rendir cuentas por la avalancha de abusos”, afirmó la profesora Clare McGlynn, experta en la regulación legal de la pornografía, la violencia sexual y los abusos en línea. “En lugar de tomar las medidas responsables para garantizar que Grok no pudiera utilizarse con fines abusivos, ha retirado el acceso a la gran mayoría de los usuarios”.
Hannah Swirsky, jefa de política de la Internet Watch Foundation, señaló que la medida “no deshace el daño que se ha causado”. “No creemos que sea suficiente simplemente limitar el acceso a una herramienta que nunca debió tener la capacidad de crear el tipo de imágenes que hemos visto en los últimos días”, declaró.
La organización benéfica informó previamente que sus analistas habían descubierto “imágenes criminales” de niñas de entre 11 y 13 años que “aparentemente habían sido creadas” utilizando Grok.
“Sentarse y esperar a que se abuse de productos inseguros antes de tomar medidas es inaceptable”, afirmó Swirsky.
‘Suscríbete para desbloquear’
Grok es una herramienta gratuita que los usuarios pueden etiquetar directamente en publicaciones o respuestas bajo las publicaciones de otros usuarios para solicitar una respuesta específica.
Pero la función también ha permitido a las personas solicitar que edite imágenes, e incluso que desnude digitalmente a personas. Grok ha cumplido con numerosas solicitudes de usuarios para editar imágenes de mujeres y mostrarlas en bikinis o con poca ropa, algo que las personas afectadas por estas solicitudes han dicho a la BBC que las ha hecho sentir “humilladas” y “deshumanizadas“.
Sin embargo, a partir del viernes por la mañana, Grok informó a los usuarios que solicitaban alterar imágenes subidas a X que “la generación y edición de imágenes están actualmente limitadas a los suscriptores de pago”.
Añade que los usuarios “pueden suscribirse para desbloquear estas funciones”.
Algunas publicaciones en la plataforma vistas por BBC News sugieren que solo aquellos con una marca de verificación “azul” (exclusiva para el nivel de suscripción de pago de X) pudieron solicitar con éxito ediciones de imágenes a Grok.
La Dra. Daisy Dixon, profesora de filosofía en la Universidad de Cardiff y usuaria de X, que dijo haber notado un aumento en el número de personas que utilizan Grok para desnudarla, acogió con satisfacción el cambio, pero dijo que se sentía “como una tirita”.
“Grok necesita ser rediseñado por completo y tener salvaguardias éticas integradas para evitar que esto vuelva a suceder”, dijo a la BBC.
“Elon Musk también debe reconocer esto por lo que es: otra instancia de violencia basada en el género”.
Organizaciones benéficas que luchan contra la violencia contra las mujeres también criticaron la medida de X.
“Restringir el acceso a los suscriptores de pago no solo es inadecuado, sino que representa la monetización del abuso”, dijo Emma Pickering de Refuge.
Añadió que, si bien limitar la función a los usuarios de pago de X puede reducir el volumen, el abuso simplemente “se ha colocado detrás de un muro de pago, lo que permite a X obtener beneficios del daño”.
Mientras tanto, Andrea Simon, directora de la coalición End Violence Against Women, dijo que “no estamos convencidas de que X tome medidas para identificar y prevenir esto, dado que se ha mostrado lenta para abordar este abuso”.
La profesora McGlynn dijo que la respuesta de X se hizo eco de su enfoque ante deepfakes pornográficos de Taylor Swift en la plataforma el año pasado, donde bloqueó las búsquedas de material sexualizado generado de la estrella del pop utilizando una función de video de IA de Grok.
“Está haciendo esto para avivar los argumentos sobre la libertad de expresión”, añadió. “Afirmará que la regulación está sofocando el uso de esta tecnología por parte de las personas. Pero todo lo que exige la regulación es que tome las precauciones necesarias para reducir el daño”.
‘Ofcom debe restringir X’
Ofcom declaró el lunes que había contactado “urgentemente” con X en medio de las preocupaciones planteadas sobre el contenido generado con Grok y el cumplimiento de la empresa de las leyes del Reino Unido.
“En base a su respuesta, realizaremos una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”, añadió un portavoz.
Los poderes de Ofcom en virtud de la Ley de Seguridad en Línea incluyen la posibilidad de solicitar una orden judicial para impedir que terceros ayuden a la plataforma propiedad de Elon Musk a recaudar fondos o a ser accedida en el Reino Unido.
Los representantes liberaldemócratas Victoria Collins, Marie Goldman y Max Wilkinson han escrito a la jefa de Ofcom, Dame Melanie Dawes, pidiéndole que tome medidas.
“Si se descubriera que cualquier otra plataforma está facilitando la generación masiva de imágenes de abuso sexual a esta escala, sería difícil creer que se le permitiría seguir operando sin interrupciones”, escribieron.
“Ofcom debe restringir el acceso a X ahora mientras se lleva a cabo una investigación”.
Downing Street reiteró el pleno apoyo del gobierno a Ofcom para que utilice todos sus poderes, incluso una prohibición.
El Primer Ministro Sir Keir Starmer calificó previamente las imágenes generadas por Grok de “escandalosas” y “repugnantes”.
Mientras tanto, los conservadores reiteraron los comentarios realizados tras las preguntas al Primer Ministro el miércoles por un portavoz de Kemi Badenoch, quien calificó las imágenes deepfake de “absolutamente abominables”.
