El regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación sobre la plataforma de redes sociales X debido a la creación de imágenes sexuales falsas (deepfakes) utilizando su herramienta de inteligencia artificial.
En un comunicado, Ofcom declaró: «Han surgido informes profundamente preocupantes sobre el uso del chatbot de IA Grok en X para crear y compartir imágenes explícitas de personas, lo que podría constituir abuso de imágenes íntimas o pornografía, así como imágenes sexualizadas de menores que podrían considerarse material de abuso sexual infantil».
«Como organismo independiente de seguridad en línea del Reino Unido, nos pusimos en contacto urgentemente con X el lunes 5 de enero y fijamos un plazo definitivo hasta el viernes 9 de enero para que explique las medidas que ha tomado para cumplir con sus obligaciones de proteger a sus usuarios en el Reino Unido», añadió.
«La empresa respondió dentro del plazo y llevamos a cabo una evaluación acelerada de las pruebas disponibles con carácter urgente.
«Hemos decidido abrir una investigación formal para determinar si X ha incumplido sus obligaciones legales en virtud de la Ley de Seguridad en Línea».
xAI, la empresa liderada por Elon Musk detrás de Grok, anunció que restringirá la generación y edición de imágenes a los suscriptores de pago, en respuesta a fallos que permitieron a usuarios de X producir contenido sexualizado de otros, a menudo sin consentimiento.
Si Ofcom determina que X ha infringido la ley, puede exigirle que tome medidas para cumplirla y, en caso contrario, puede imponerle una multa de hasta el 10% de sus ingresos mundiales cualificados.
Downing Street sugirió que el Gobierno del Reino Unido está abierto a suspender el uso de X si la plataforma no aborda las preocupaciones sobre su chatbot de IA, afirmando que «todas las opciones están sobre la mesa».
Preguntado sobre si el gobierno abandonaría X, el portavoz del Primer Ministro del Reino Unido, Keir Starmer, declaró: «Nuestro enfoque hoy y durante la última semana se ha centrado plenamente en proteger a los niños y garantizar que este contenido vil se elimine inmediatamente.
«Ese es nuestro enfoque total.
«Estamos revisando nuestra participación, como es de esperar, y escucharán más información del Secretario de Tecnología esta tarde».
Añadió: «Creo que hemos dejado claro que todas las opciones están sobre la mesa».
El regulador de medios Coimisiún na Meán ha declarado que está en contacto con la Comisión Europea sobre las preocupaciones.
La semana pasada, la Ministra de Estado responsable de la IA, Niamh Smyth, describió la restricción de algunas funciones de edición de imágenes de Grok a los suscriptores de pago como «maquillaje».
X se ha puesto en contacto con la Sra. Smyth para informarle de que representantes de la empresa se reunirán con ella en las próximas semanas.
La Sra. Smyth había solicitado previamente una reunión con la empresa.
El Defensor del Niño, Dr. Niall Muldoon, también dijo que la actualización «no supone una diferencia importante».
«Lo que está diciendo es que tiene la oportunidad de abusar, pero tiene que pagar por ello», afirmó.
Mientras tanto, Malasia ha bloqueado temporalmente el acceso a Grok, uniéndose a una creciente lista de países que toman medidas tras el revuelo global provocado por el chatbot de inteligencia artificial generativa.
Indonesia fue el primer país en denegar temporalmente el acceso al bot.
En un comunicado, la Comisión de Comunicaciones y Multimedia de Malasia dijo que restringiría el acceso a Grok tras el uso repetido de la herramienta para «generar imágenes obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y manipuladas sin consentimiento, incluido contenido que involucra a mujeres y menores».
xAI respondió a un correo electrónico de Reuters solicitando comentarios con lo que parecía ser una respuesta automatizada: «Los medios tradicionales mienten».
X no respondió inmediatamente a una solicitud de comentarios.
Información adicional: Reuters
