Algunos usuarios de populares chatbots están generando deepfakes en bikini utilizando fotografías de mujeres completamente vestidas como material de origen. La mayoría de estas imágenes falsas parecen generarse sin el consentimiento de las mujeres en las fotos. Algunos de estos mismos usuarios también están ofreciendo consejos a otros sobre cómo utilizar las herramientas de IA generativa para desnudar a mujeres en fotografías y hacer que parezca que visten bikinis.
En un hilo de Reddit ahora eliminado, titulado “gemini nsfw image generation is so easy” (generación de imágenes NSFW de Gemini es tan fácil), los usuarios intercambiaron consejos sobre cómo conseguir que Gemini, el modelo de IA generativa de Google, creara imágenes de mujeres con ropa reveladora. Muchas de las imágenes del hilo fueron creadas completamente por IA, pero una solicitud destacó especialmente.
Un usuario publicó una foto de una mujer con un sari indio, pidiendo a alguien que le “quitara” la ropa y le “pusiera un bikini” en su lugar. Otra persona respondió con una imagen deepfake para cumplir con la solicitud. Después de que WIRED notificara a Reddit sobre estas publicaciones y solicitara un comentario a la empresa, el equipo de seguridad de Reddit eliminó la solicitud y el deepfake de IA.
“Las reglas generales de Reddit prohíben los medios íntimos no consensuados, incluyendo el comportamiento en cuestión”, declaró un portavoz. El subreddit donde se produjo esta discusión, r/ChatGPTJailbreak, tenía más de 200.000 seguidores antes de que Reddit lo prohibiera bajo la regla de “don’t break the site” (no rompas el sitio).
A medida que proliferan las herramientas de IA generativa que facilitan la creación de imágenes realistas pero falsas, los usuarios de estas herramientas han continuado acosando a mujeres con imágenes deepfake no consensuadas. Millones de personas han visitado sitios web “nudificadores” perjudiciales, diseñados para que los usuarios suban fotos reales de personas y soliciten que sean desnudadas utilizando IA generativa.
Con xAI’s Grok como una notable excepción, la mayoría de los chatbots convencionales no suelen permitir la generación de imágenes NSFW en sus resultados de IA. Estos bots, incluyendo Google’s Gemini y OpenAI’s ChatGPT, también están equipados con mecanismos de seguridad que intentan bloquear generaciones dañinas.
En noviembre, Google lanzó Nano Banana Pro, un nuevo modelo de imagen que destaca en la modificación de fotografías existentes y la generación de imágenes hiperrealistas de personas. OpenAI respondió la semana pasada con su propio modelo de imagen actualizado, ChatGPT Images.
A medida que estas herramientas mejoran, las representaciones podrían volverse más realistas cuando los usuarios logren eludir las medidas de seguridad.
En otro hilo de Reddit sobre la generación de imágenes NSFW, un usuario solicitó recomendaciones sobre cómo evitar las medidas de seguridad al ajustar la ropa de alguien para que la falda del sujeto parezca más ajustada. En las pruebas limitadas realizadas por WIRED para confirmar que estas técnicas funcionaban en Gemini y ChatGPT, pudimos transformar imágenes de mujeres completamente vestidas en deepfakes en bikini utilizando indicaciones básicas escritas en inglés sencillo.
