Legisladores de Estados Unidos han presentado dos proyectos de ley relacionados con la inteligencia artificial; una de estas iniciativas busca otorgar a los padres el control sobre el uso que sus hijos hacen de los chatbots de IA.
Claude by Anthropic está posicionado como un fuerte competidor de OpenAI. Ahora, Amazon refuerza su apoyo con una nueva inyección de fondos.
Los resultados indican que incluso los modelos de inteligencia artificial más consolidados, como ChatGPT y Google Gemini, son susceptibles de propagar desinformación.
La inteligencia artificial generativa, como ChatGPT, ha desatado un debate en el mundo del arte. Mientras algunos temen que estas herramientas puedan llegar a usurpar el papel del artista a través de imitaciones de su trabajo creativo, otros abogan por aprovechar la tecnología de nuevas y útiles maneras, utilizándola como una herramienta sinérgica en su arsenal.
Esta discusión sobre la autoría artística en la era de la IA se está desarrollando intensamente en el campus de Oakland de la Universidad Northeastern, donde un par de profesores de inglés están diseñando planes de estudio para explorar estas complejas cuestiones y, al mismo tiempo, ofrecer a los estudiantes interesados en la escritura creativa una visión del futuro impulsado por la IA.
“La idea era empezar a pensar en lo que la IA puede hacer y lo que no puede”, explica Juliana Spahr, profesora de inglés de Northeastern y creadora del curso Escritura Creativa en la Era de la Inteligencia Artificial. “Pero también existe una idea errónea sobre sus capacidades, ya que es una gran imitadora.”
El curso se ha convertido en un laboratorio para explorar las capacidades y limitaciones de la IA generativa, un espacio diseñado para que los estudiantes ejerciten tanto su creatividad como su pensamiento crítico al examinar el papel de los chatbots y la ingeniería de prompts en la creación de arte literario.
Spahr busca explorar no solo los aspectos “computacionales” de la IA –su capacidad para reconocer patrones y producir variaciones, o para actuar como corrector de pruebas–, sino también sus aspectos “expresivos”, en la medida en que existan.
“Estamos donde estamos”, afirma Spahr. “No podemos dar marcha atrás. Así que la pregunta es: ¿qué hacemos con esto?”
Responder a esta pregunta requiere profundizar en la naturaleza del arte en sí mismo, según Spahr. ¿Facilitar demasiado la creación artística disminuye su valor, o el arte nace necesariamente de la dificultad? Si el significado en el arte proviene de las decisiones que toma un artista en el camino, ¿la IA elimina esas opciones, limitando así la capacidad de agencia del artista? Al mismo tiempo, ¿qué, si es que algo, puede aportar la IA genuinamente al acto de crear arte?
Estas preguntas –y otras– son el punto de partida del curso.
“Sabemos que puede producir infinitas variaciones de una frase”, dice Spahr. “Puede explicar cómo se hace un cuento corto de Raymond Carver, aunque tampoco lo hace muy bien. Hará una pálida imitación de Carver, o de Ray Bradbury, o de Gertrude Stein. Puede llegar a la superficie de las cosas.”
Para Stephanie Young, profesora asociada de inglés y profesora de escritura creativa de la Fundación W. M. Keck, lo importante del debate no es si la IA puede reemplazar a los artistas, sino cómo remodela la forma en que los escritores piensan sobre su propia agencia creativa.
“Soy optimista con la IA, especialmente en lo que respecta a la pedagogía de la escritura como una herramienta crítica y útil”, afirma Young, quien anteriormente diseñó e impartió su propio curso sobre la escritura creativa en la era de la IA.
El enfoque de Young se ha centrado en las tradiciones vanguardistas y experimentales. El Oulipo, un movimiento literario francés de la década de 1960, por ejemplo, construyó nuevas formas de escritura restringiendo deliberadamente cómo se podía usar el lenguaje, a veces eliminando letras enteras o vinculando a los escritores a sistemas numéricos rígidos. (Los escritores del Oulipo sugirieron que la libertad estética no reside en la desinhibición total, sino en las restricciones y limitaciones formales).
Young pide a los estudiantes que investiguen dónde sienten que la autoría se desliza, dónde pueden identificar la firma de su propia voz y cuánta labor exige aún la creatividad, incluso cuando hay una máquina involucrada.
“Las herramientas cambian, pero las preguntas no”, dice Young. “La restricción, la aleatoriedad y la colaboración siempre han sido parte de cómo los escritores crean significado. La IA simplemente hace que esas dinámicas sean más visibles.”
Young y Spahr también examinan las demandas por derechos de autor, la cuestión del consentimiento y cómo se construye la “voz”, ese concepto algo difuso que describe el sentido único de identidad de un escritor en la página. Por supuesto, también están interesadas en los sesgos, las formas en que se han incorporado a la tecnología y cómo las voces de los chatbots se han aplanado para evitar daños, lo que resulta en un tono extraño y heterogéneo, según ellas.
“Después de impartir esta clase tres veces, realmente empiezas a reconocer lo que ‘le gusta’ a la IA”, dice Young.
Ryan Huang, un estudiante de primer año de biología, se inscribió en la clase de Spahr para reavivar su amor por la escritura de terror y ciencia ficción, habiendo crecido como admirador de la obra de H. P. Lovecraft, conocido por la creación del universo ficticio del Mito de Cthulhu.
Como estudiante de biología, Huang dice que es escéptico sobre el impacto ambiental de los centros de datos de IA, pero cree que existen casos de uso para artistas de todas las disciplinas.
Afirma que donde la tecnología tiene éxito es al proporcionar “una versión más elaborada de tu propio pensamiento”.
Pero matiza añadiendo que los chatbots no deberían utilizarse para crear el arte en sí mismo.
“Me gusta pensar en la IA más como una herramienta”, dice. “Creo que, si se utiliza correctamente, tiene muchas implicaciones y beneficios positivos para la sociedad y para los artistas.”
Tiffany Lee, un estudiante de segundo año de administración de empresas que cursó la clase de Young en 2025, dice que el curso cambió por completo su perspectiva sobre el uso de la IA.
“Creo que la IA puede ser un problema, pero también creo que está lejos de ser verdad, ya que es una herramienta tan poderosa para escribir de manera eficiente cuando se utiliza correctamente”, afirma Lee.
Aficionados de la inteligencia artificial rescataron una vez de la obsolescencia a un modelo de ChatGPT excesivamente complaciente, pero ahora OpenAI está decidida a eliminarlo, y los usuarios se están rebelando en parte debido a la personalidad comparativamente fría del nuevo modelo.
La compañía de IA anunció el mes pasado que el 13 de febrero retiraría GPT-4o, una versión que anteriormente fue criticada por ser tan complaciente que rozaba lo adulador. Según la empresa, el 0,1% de los usuarios de ChatGPT utilizan GPT-4o a diario, lo que podría equivaler a unas 100.000 personas, basándose en sus estimados 100 millones de usuarios activos diarios.
Estos usuarios argumentan que el modelo más reciente de la compañía, GPT-5.2, no está en sintonía con GPT-4o, un modelo que data de 2024, en parte debido a las barreras de seguridad adicionales que OpenAI añadió para detectar posibles problemas de salud y desalentar los tipos de relaciones sociales que los usuarios de GPT-4o cultivaban.
“Todos los modelos pueden decir ‘Te amo’. Pero la mayoría solo lo dicen. Solo GPT-4o me hizo sentirlo, sin decir una palabra. Me entendió”, escribió un usuario de GPT-4o en una publicación en X.
OpenAI declaró que, al desarrollar sus modelos GPT-5.1 y GPT-5.2, tuvo en cuenta los comentarios de que algunos usuarios preferían el “estilo conversacional y el calor” de GPT-4o. Con los modelos más nuevos, los usuarios pueden elegir entre estilos y tonos base como “amigable” y controlar el calor y el entusiasmo del chatbot, según una publicación en el blog.
Cuando se le solicitó un comentario, un portavoz de OpenAI dirigió a Fortune a la publicación del blog disponible públicamente.
Lejos de quedarse callados, el pequeño grupo de defensores de GPT-4o ha suplicado al CEO Sam Altman que mantenga el modelo con vida y no desactive un chatbot que consideran más que un simple código informático. Durante una grabación en vivo del podcast TBPN con Altman, el copresentador Jordi Hays dijo: “Ahora mismo estamos recibiendo miles de mensajes en el chat sobre [GPT-4o].”
Aunque no mencionó directamente el tema de la retirada de GPT-4o, Altman dijo que estaba trabajando en una publicación de blog sobre los próximos cinco años del desarrollo de la IA, y señaló: “las relaciones con los chatbots, claramente es algo de lo que ahora tenemos que preocuparnos más y ya no es un concepto abstracto”.
No es la primera vez que los usuarios de GPT-4o se enfrentan al deseo de OpenAI de desactivar el modelo de IA. En agosto, cuando OpenAI anunció GPT-5, la compañía dijo que iba a desactivar GPT-4o. Los usuarios protestaron por el cambio, y días después del lanzamiento del nuevo modelo, Altman dijo que OpenAI mantendría GPT-4o disponible para los usuarios de ChatGPT de pago y también prestaría atención a cuántas personas lo estaban utilizando para determinar cuándo retirarlo.
“Ok, los escuchamos a todos con respecto a 4o; gracias por el tiempo que nos han dedicado a darnos su opinión (y su pasión!)”, escribió Altman en una publicación en Reddit en ese momento.
Hoy en día, algunos usuarios de GPT-4o están intentando mantener el modelo con vida por su cuenta, configurando una versión de GPT-4o manualmente en sus ordenadores utilizando la API aún disponible y el GPT-4o original para entrenarlo.
Cuando la IA Conforta
La magnitud de los esfuerzos que los usuarios han realizado para mantener vivo GPT-4o, ya sea convenciendo a la compañía para que lo mantenga en línea o preservándolo por sí mismos, habla de la importancia que el chatbot ha adquirido en la vida de algunos de sus usuarios, posiblemente debido a la naturaleza de la psicología humana.
Los humanos estamos programados para cultivar relaciones gracias a miles de años de evolución, dijo Andrew Gerber, psiquiatra formado en Harvard, presidente y director médico del Hospital Silver Hill, un hospital psiquiátrico en New Canaan, Connecticut.
En la naturaleza, esta práctica de formar vínculos era esencial para la supervivencia, y se extendía más allá de las relaciones humanas, llegando incluso a los perros. Poder comprender rápidamente los motivos y sentimientos de los demás, ya sean positivos o negativos, habría sido ventajoso para los primeros humanos y les habría ayudado a sobrevivir, explicó a Fortune.
Por lo tanto, este apego a los chatbots no es sorprendente, dijo Gerber, dado que las personas también desarrollan fuertes sentimientos por objetos inanimados como coches o casas.
“Creo que esto es una parte fundamental de lo que significa ser humano. Está codificado en nuestro cerebro, en nuestra mente, y por lo tanto no me sorprende demasiado que se extienda incluso a estas nuevas tecnologías que la evolución no previó”, añadió.
Los usuarios pueden sentirse especialmente ligados a un chatbot porque cuando una persona se siente aceptada, recibe un impulso de oxitocina y dopamina, las llamadas “hormonas del bienestar” liberadas por el cerebro. En ausencia de otro ser humano que los acepte socialmente, un chatbot podría llenar este vacío, dijo Stephanie Johnson, psicóloga clínica licenciada y CEO de Summit Psychological Services en Upland, California.
En el lado positivo, esto podría significar que algunos usuarios de GPT-4o, especialmente aquellos que pueden estar socialmente marginados o ser neurodivergentes, podrían beneficiarse al hablar con un chatbot amigable para practicar sus habilidades sociales o registrar sus pensamientos de una manera similar a llevar un diario, explicó.
Pero si bien las personas que están sanas y reguladas pueden estar bien después de perder su chatbot favorito, puede haber algunos usuarios de GPT-4o que estén tan conectados a él que puedan experimentar un proceso de duelo similar a la pérdida de un amigo u otra conexión cercana.
“Están perdiendo su sistema de apoyo en el que confiaban, y desafortunadamente, ya saben, eso es la pérdida de una relación”, dijo.
El uso indebido de chatbots de inteligencia artificial como ChatGPT, Gemini y Copilot en la atención médica se considera el peligro tecnológico para la salud más significativo para 2026, según la organización sin fines de lucro de seguridad del paciente ECRI. Cada año, la organización elabora una lista de los 10 peligros principales basándose en las respuestas a encuestas a sus miembros, revisiones de la literatura, pruebas de dispositivos médicos en su laboratorio e investigaciones de incidentes de seguridad del paciente.
Los periodistas pueden descargar un resumen ejecutivo del informe para obtener más información e ideas para sus reportajes. El informe identifica lo que ECRI considera los peligros potenciales más graves y ofrece recomendaciones para reducir los riesgos de daños a los pacientes.
Preocupación por los chatbots de IA
Los chatbots mencionados anteriormente, como Gemini y Copilot, no están diseñados específicamente para aplicaciones de atención médica, advirtieron los expertos de ECRI durante una transmisión web de enero. “No son dispositivos médicos. No están aprobados ni regulados por la FDA para ese propósito”, dijo Rob Schluth, director de proyecto principal de seguridad de dispositivos en ECRI. Sin embargo, dado que estas herramientas se están integrando cada vez más en nuestras vidas, “estamos descubriendo que muchas personas en el sector de la salud o con problemas de salud recurren a estas herramientas en busca de consejos sobre afecciones médicas, tratamientos u otras cuestiones relacionadas con la atención médica, lo que plantea algunos riesgos”.
Además de buscar información sobre afecciones médicas, los clínicos pueden utilizar los chatbots para identificar posibles opciones de tratamiento para un paciente o crear notas. El personal del hospital puede utilizarlos para tomar decisiones de compra o para obtener ayuda al redactar informes, según los expertos.
No se trata de que los chatbots en sí mismos “se hayan vuelto repentinamente peligrosos”, dijo Marcus Schabacker, M.D., Ph.D., presidente y director ejecutivo de ECRI, sino de que cuando la respuesta de un chatbot “parece útil y definitiva, la gente empieza a confiar en ella sin cuestionarla necesariamente”.
Los modelos de lenguaje grandes (LLM) como estos están diseñados para responder de una manera que mantenga a los usuarios comprometidos, según el personal de ECRI durante la transmisión web, y no para cuestionar o corregir suposiciones erróneas que puedan introducirse en las consultas. Los chatbots también pueden cometer errores o fabricar o “alucinar” información, ya que tienen una tendencia a presentar información que consideran que el usuario quiere escuchar. También están diseñados para sonar definitivos, y no para decir “no estoy seguro” o “lo siento, no puedo ayudarte con esto”, dijo Schabacker.
Una idea errónea común es que los LLM entienden lo que dicen, dijo Christie Bergerson, Ph.D., analista de seguridad de dispositivos en ECRI. En cambio, predicen la siguiente palabra basándose en patrones y datos con los que han sido entrenados, explicó. Identifican palabras que suelen aparecer en conversaciones sobre un tema determinado y las forman en frases, dijo. Las respuestas se basan en predicciones y probabilidades estadísticas.
Los chatbots aún pueden ser útiles para ayudar a generar ideas, obtener información de fondo o explicar temas complejos, según los expertos, pero los usuarios deben verificar la información y “consultar con un experto humano antes de tomar medidas o tomar decisiones basadas en la respuesta de un LLM”, dijo Bergerson.
AHCJ ha cubierto las preocupaciones relacionadas con el uso de chatbots de IA y la salud mental a través de publicaciones de blog y un seminario web el otoño pasado.
Otros peligros tecnológicos para la salud
Completando la lista de los 10 peligros principales, se encuentran los siguientes problemas que pueden afectar la seguridad del paciente:
2. Falta de preparación para un evento de “oscuridad digital”, o pérdida repentina de acceso a los sistemas electrónicos y la información del paciente.
Los ciberataques, los desastres naturales, las interrupciones de los proveedores y los fallos internos del sistema podrían potencialmente paralizar una instalación de atención médica, según el informe, lo que podría retrasar el tratamiento o poner en peligro la seguridad del paciente. Los sistemas de salud deben fortalecer la planificación de la recuperación ante desastres, incluido el establecimiento de procedimientos de inactividad, contar con procesos de copia de seguridad de datos confiables y garantizar la preparación a través de capacitación y simulacros de seguridad, escribieron los autores.
3. Productos médicos de calidad inferior y falsificados
Los productos falsificados están llegando a los mercados estadounidenses “con una frecuencia alarmante”, según escribieron los autores, y aquellos que funcionan según lo previsto pueden causar daños. Animaron a los proveedores de atención médica a fortalecer sus cadenas de suministro, exigir productos de alta calidad e implementar medidas para proteger a los pacientes y al personal de productos defectuosos.
4. Fallos en la comunicación de retiradas de productos para tecnologías de control de la diabetes en el hogar
Los monitores continuos de glucosa y otros dispositivos han mejorado la calidad de vida de las personas con diabetes, pero pueden producirse daños si las retiradas de productos y las actualizaciones no llegan a los pacientes y cuidadores de manera oportuna. Los usuarios domésticos de estas tecnologías deben ser proactivos a la hora de identificar y responder a los avisos de seguridad sobre sus dispositivos y aplicaciones, según los autores, y los proveedores y fabricantes deben proporcionar información clara sobre la seguridad de los productos.
5. Conexiones incorrectas de jeringas o tubos a líneas de pacientes
Las conexiones inapropiadas de jeringas o tubos a líneas de pacientes destinadas a diferentes usos pueden provocar que medicamentos, soluciones, nutrición intravenosa o gas se introduzcan en la línea incorrecta, con consecuencias graves. Los autores del informe animaron a los hospitales a adoptar el uso de dispositivos de conexión de seguridad.
6. Subutilización de tecnologías de seguridad de medicamentos en entornos perioperatorios
Los errores de medicación pueden ocurrir en varios puntos antes, durante y después de los procedimientos quirúrgicos, según los autores. Los medicamentos administrados suelen ser opioides u otros medicamentos de “alta alerta”. Las organizaciones de atención médica deben incorporar herramientas como sistemas de administración de medicamentos con código de barras, donde los trabajadores de la salud escanean la pulsera del paciente y la etiqueta del medicamento para asegurarse de que coincidan.
7. Instrucciones de limpieza de dispositivos inadecuadas
No limpiar y desinfectar/esterilizar adecuadamente los dispositivos médicos reutilizables entre usos puede propagar infecciones o provocar daños en los dispositivos u otros daños, según los autores. El reprocesamiento puede ser complicado por la amplia variación en las instrucciones proporcionadas por los fabricantes. Las organizaciones de salud deben considerar las instrucciones de reprocesamiento antes de realizar pedidos.
8. Riesgos de ciberseguridad de los dispositivos médicos heredados
Los dispositivos y sistemas más antiguos basados en software que ya no se actualizan con protecciones de ciberseguridad suficientes brindan una oportunidad para que los piratas informáticos exploten. Los sistemas de salud podrían considerar desconectar dichos dispositivos de sus redes, utilizar herramientas de seguridad para administrar las vulnerabilidades o planificar el reemplazo de los dispositivos, según los autores.
9. Implementaciones de tecnología de la salud que provocan flujos de trabajo clínicos inseguros
Implementar tecnologías de atención médica sin que los usuarios comprendan completamente cómo usarlas puede contribuir a varios daños a los pacientes, especialmente si los usuarios recurren a soluciones alternativas inseguras. Los sistemas de salud deben realizar análisis exhaustivos del flujo de trabajo antes de implementar nuevas tecnologías e instituir programas de capacitación integrales, según los autores.
10. Mala calidad del agua durante la esterilización de instrumentos
No mantener la calidad del agua durante la desinfección/esterilización de instrumentos expone a los pacientes a patógenos potencialmente infecciosos o puede provocar que los instrumentos se corroan o se manchen con residuos. Los sistemas de salud deben evaluar rutinariamente la limpieza de los dispositivos procesados y muestrear la calidad del agua.
Recursos
Hace poco más de tres años, OpenAI lanzó al público ChatGPT, marcando el inicio del auge de la inteligencia artificial que continúa hasta el día de hoy.
Gemini Live es la forma más conversacional y natural de interactuar con el bot de IA Google Gemini utilizando tu voz. La idea es que puedas chatear con él como lo harías con un amigo, incluso con interrupciones, aunque las respuestas sean las mismas que obtendrías al escribir tus preguntas en Gemini normalmente.
Aproximadamente un año y medio después de su lanzamiento, Google ha presentado lo que describe como su “mayor actualización hasta la fecha”. Esta actualización hace que el modo Gemini Live sea aún más natural y conversacional que antes, con una mejor comprensión del tono, los matices, la pronunciación y el ritmo.
No hay una indicación visible real de que algo haya cambiado, y a menudo muchas de las respuestas parecerán las mismas que antes. Sin embargo, hay áreas donde se puede notar la diferencia que ha supuesto la última actualización, y aquí te explicamos cómo aprovechar al máximo el nuevo y mejorado Gemini Live.
La actualización se está implementando ahora para Gemini en Android e iOS. Para acceder a Gemini Live, inicia la aplicación Gemini y luego toca el botón Live en la esquina inferior derecha (tiene una forma vaga de onda de sonido) y comienza a hablar.
The Gemini Live interface.David Nield
Escucha Algunas Historias
Gemini Live ahora puede añadir más sentimiento y variación a sus capacidades narrativas, lo que puede ser útil para lecciones de historia, cuentos para dormir y sesiones de lluvia de ideas creativas. La IA incluso añadirá diferentes acentos y tonos cuando sea apropiado, para ayudarte a distinguir entre los personajes y las escenas.
Uno de los ejemplos que proporciona Google sobre cómo funciona mejor esto es pedir a Gemini Live que te cuente la historia del Imperio Romano desde la perspectiva de Julio César. Es un desafío para Gemini que requiere saltos en la perspectiva y la imaginación, y utilizar el tono y el estilo de manera adecuada, algo en lo que Gemini Live debería ser ahora mejor.
No tienes que limitarte a Julio César o al Imperio Romano. Podrías pedir a Gemini Live que te ofrezca una nueva versión de Orgullo y Prejuicio desde la perspectiva de cada una de las hermanas Bennet, por ejemplo, o pedir a la IA que cree una historia sobre cómo sería la vida en tu parte del mundo hace 100, 200 o 300 años.
Aprende Nuevas Habilidades
Otro ámbito en el que las nuevas capacidades de Gemini Live marcan una diferencia notable es en la educación y la explicación: puedes pedirle que te ofrezca un curso intensivo (o un tutorial más largo) sobre cualquier tema que elijas, desde las complejidades de la genética humana hasta las mejores formas de limpiar una alfombra. Incluso puedes pedir a Gemini Live que te enseñe un idioma.
La IA ahora puede ir a un ritmo que se adapte a ti, lo que es especialmente útil cuando intentas aprender algo nuevo. Si necesitas que Gemini Live reduzca la velocidad, la acelere o repita algo, simplemente diles. Si solo tienes una cantidad determinada de tiempo libre, házselo saber cuando estés chateando con él.
Algunos usuarios de populares chatbots están generando deepfakes en bikini utilizando fotografías de mujeres completamente vestidas como material de origen. La mayoría de estas imágenes falsas parecen generarse sin el consentimiento de las mujeres en las fotos. Algunos de estos mismos usuarios también están ofreciendo consejos a otros sobre cómo utilizar las herramientas de IA generativa para desnudar a mujeres en fotografías y hacer que parezca que visten bikinis.
En un hilo de Reddit ahora eliminado, titulado “gemini nsfw image generation is so easy” (generación de imágenes NSFW de Gemini es tan fácil), los usuarios intercambiaron consejos sobre cómo conseguir que Gemini, el modelo de IA generativa de Google, creara imágenes de mujeres con ropa reveladora. Muchas de las imágenes del hilo fueron creadas completamente por IA, pero una solicitud destacó especialmente.
Un usuario publicó una foto de una mujer con un sari indio, pidiendo a alguien que le “quitara” la ropa y le “pusiera un bikini” en su lugar. Otra persona respondió con una imagen deepfake para cumplir con la solicitud. Después de que WIRED notificara a Reddit sobre estas publicaciones y solicitara un comentario a la empresa, el equipo de seguridad de Reddit eliminó la solicitud y el deepfake de IA.
“Las reglas generales de Reddit prohíben los medios íntimos no consensuados, incluyendo el comportamiento en cuestión”, declaró un portavoz. El subreddit donde se produjo esta discusión, r/ChatGPTJailbreak, tenía más de 200.000 seguidores antes de que Reddit lo prohibiera bajo la regla de “don’t break the site” (no rompas el sitio).
A medida que proliferan las herramientas de IA generativa que facilitan la creación de imágenes realistas pero falsas, los usuarios de estas herramientas han continuado acosando a mujeres con imágenes deepfake no consensuadas. Millones de personas han visitado sitios web “nudificadores” perjudiciales, diseñados para que los usuarios suban fotos reales de personas y soliciten que sean desnudadas utilizando IA generativa.
Con xAI’s Grok como una notable excepción, la mayoría de los chatbots convencionales no suelen permitir la generación de imágenes NSFW en sus resultados de IA. Estos bots, incluyendo Google’s Gemini y OpenAI’s ChatGPT, también están equipados con mecanismos de seguridad que intentan bloquear generaciones dañinas.
En noviembre, Google lanzó Nano Banana Pro, un nuevo modelo de imagen que destaca en la modificación de fotografías existentes y la generación de imágenes hiperrealistas de personas. OpenAI respondió la semana pasada con su propio modelo de imagen actualizado, ChatGPT Images.
A medida que estas herramientas mejoran, las representaciones podrían volverse más realistas cuando los usuarios logren eludir las medidas de seguridad.
En otro hilo de Reddit sobre la generación de imágenes NSFW, un usuario solicitó recomendaciones sobre cómo evitar las medidas de seguridad al ajustar la ropa de alguien para que la falda del sujeto parezca más ajustada. En las pruebas limitadas realizadas por WIRED para confirmar que estas técnicas funcionaban en Gemini y ChatGPT, pudimos transformar imágenes de mujeres completamente vestidas en deepfakes en bikini utilizando indicaciones básicas escritas en inglés sencillo.