“Las mujeres no están consintiendo esto”, declaró una afectada. “Aunque no fui yo quien aparecía en estados de desnudez, parecía ser yo y se sintió como si alguien hubiera publicado una foto mía desnuda o en bikini. Fue tan violador como eso.”
El gobierno británico, a través de un portavoz del Home Office, ha anunciado que está legislando para prohibir las herramientas de “nudificación”, y bajo un nuevo delito penal, cualquier persona que suministre esta tecnología se enfrentará a “penas de prisión y multas sustanciales”.
El regulador Ofcom ha indicado que las empresas tecnológicas deben “evaluar el riesgo” de que las personas en el Reino Unido vean contenido ilegal en sus plataformas, aunque no ha confirmado si actualmente está investigando a X o a Grok en relación con imágenes generadas por inteligencia artificial.
Grok es un asistente de IA gratuito –con algunas funciones premium de pago– que responde a las indicaciones de los usuarios de X cuando lo etiquetan en una publicación. Se utiliza a menudo para dar una reacción o más contexto a los comentarios de otros usuarios, pero también permite editar imágenes subidas a través de su función de edición de imágenes con IA.
Grok ha sido criticado por permitir a los usuarios generar fotos y videos con desnudez y contenido sexualizado, y anteriormente fue acusado de crear un clip sexualmente explícito de Taylor Swift.
Clare McGlynn, profesora de derecho en la Universidad de Durham, señaló que X o Grok “podrían prevenir estas formas de abuso si quisieran”, añadiendo que “parecen disfrutar de impunidad”.
“La plataforma ha estado permitiendo la creación y distribución de estas imágenes durante meses sin tomar ninguna medida y aún no hemos visto ningún desafío por parte de los reguladores”, afirmó.
La política de uso aceptable de XAI prohíbe “representar la apariencia de personas de manera pornográfica”.
En una declaración a la BBC, Ofcom indicó que es ilegal “crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil” y confirmó que esto incluye los deepfakes sexuales creados con IA.
El regulador señaló que plataformas como X están obligadas a tomar “medidas apropiadas” para “reducir el riesgo” de que los usuarios del Reino Unido se encuentren con contenido ilegal en sus plataformas, y a eliminarlo rápidamente cuando tengan conocimiento de ello.
Información adicional de Chris Vallance.
