La plataforma en línea X ha restringido la generación de imágenes de su chatbot de inteligencia artificial Grok para la mayoría de los usuarios. Ahora, si se le pide a Grok que cree o edite una imagen, responde: «La generación y edición de imágenes está actualmente limitada a los suscriptores de pago».
Anteriormente, Grok había cumplido repetidamente solicitudes de los usuarios para sexualizar imágenes, incluyendo representaciones de menores. En Nochevieja, el chatbot admitió públicamente haber creado y compartido una imagen de dos adolescentes «con atuendos sexualizados». «Fue una falla en nuestras medidas de seguridad», escribió Grok.
Posteriormente, en otra publicación, se informó que se habían detectado «vulnerabilidades en nuestras medidas de seguridad». Hasta el momento, no hay una declaración oficial de Elon Musk, quien controla la mayoría de la empresa matriz X.AI.
Investigaciones en varios países
Los incidentes han provocado investigaciones en varios países. La Comisión Europea solicitó a X que no destruyera documentos internos relacionados con Grok, sino que los conserve hasta finales de año. Un portavoz de la Comisión calificó el contenido de «ilegal» e «inaceptable».
La fiscalía de París amplió una investigación en curso contra X: ahora también incluye acusaciones de que Grok se utilizó para crear y difundir representaciones sexualizadas de niños. También hubo críticas desde el Reino Unido. El Primer Ministro Keir Starmer calificó las imágenes de niños creadas como «repugnantes». La autoridad reguladora de medios británica Ofcom solicitó a X el lunes una declaración urgente.