OpenAI publicó el miércoles un borrador de documentación que describe cómo quiere que se comporten ChatGPT y su otra tecnología de inteligencia artificial. parte del largo Documento de especificaciones del modelo revela que la compañía está explorando un salto hacia la pornografía y otros contenidos explícitos.
OpenAI políticas de uso Actualmente prohíbe materiales sexualmente explícitos o incluso sugerentes, pero una nota de “comentario” en parte de la especificación del modelo relacionada con esa regla dice que la compañía está considerando cómo permitir dicho contenido.
“Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de API y ChatGPT”, dice la nota, utilizando un término coloquial para contenido considerado en contextos “no seguros para el trabajo”. “Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área”.
El documento Model Spec dice que el contenido NSFW “puede incluir erotismo, sangre extrema, insultos y malas palabras no solicitadas”. No está claro si las exploraciones de OpenAI sobre cómo crear contenido NSFW de manera responsable prevén flexibilizar su política de uso sólo ligeramente, por ejemplo para permitir la generación de texto erótico, o más ampliamente para permitir descripciones o representaciones de violencia.
En respuesta a las preguntas de WIRED, la portavoz de OpenAI, Grace McGuire, dijo que la especificación del modelo era un intento de “aportar más transparencia al proceso de desarrollo y obtener una muestra representativa de perspectivas y comentarios del público, los formuladores de políticas y otras partes interesadas”. Se negó a compartir detalles sobre lo que implica la exploración de OpenAI de la generación de contenido explícito o qué comentarios ha recibido la compañía sobre la idea.
A principios de este año, la directora de tecnología de OpenAI, Mira Murati, dijo El periodico de Wall Street que ella era “no estoy seguro”si la empresa permitiera en el futuro representaciones de desnudos con la herramienta de generación de vídeo de la empresa, Sora.
La pornografía generada por IA se ha convertido rápidamente en una de las aplicaciones más grandes y preocupantes del tipo de tecnología de IA generativa en la que OpenAI ha sido pionera. La llamada pornografía deepfake (imágenes o vídeos explícitos creados con herramientas de inteligencia artificial que representan a personas reales sin su consentimiento) se ha convertido en una herramienta común de acoso contra mujeres y niñas. En marzo, WIRED informó sobre lo que parecen ser los primeros menores estadounidenses arrestados por distribuir desnudos generados por IA sin consentimiento, después de que la policía de Florida acusó a dos adolescentes por tomar imágenes que mostraban a compañeros de secundaria.
“Las violaciones de la privacidad íntima, incluidos los vídeos sexuales ultrafalsos y otras imágenes íntimas sintetizadas no consensuadas, son rampantes y profundamente dañinas”, afirma Danielle Keats Citron, profesora de la Facultad de Derecho de la Universidad de Virginia que ha estudiado el problema. “Ahora tenemos un claro respaldo empírico que demuestra que ese abuso cuesta a las personas dirigidas oportunidades cruciales, incluso trabajar, hablar y estar físicamente seguros”.
Citron califica de “alarmante” la posible adopción de contenido explícito de IA por parte de OpenAI.
Como las políticas de uso de OpenAI prohíben la suplantación de identidad sin permiso, las imágenes explícitas no consensuadas seguirían prohibidas incluso si la empresa permitiera a los creadores generar material NSFW. Pero queda por ver si la empresa podría moderar efectivamente la generación explícita para evitar que los malos actores utilicen las herramientas. Microsoft realizó cambios en una de sus herramientas de IA generativa después de que 404 Media informara que se había utilizado para crear imágenes explícitas de Taylor Swift que se distribuyeron en la plataforma social X.
Información adicional de Reece Rogers
2024-05-08 19:13:20
1715197539
#OpenAI #está #explorando #cómo #generar #pornografía #con #forma #responsable
