OpenAI reveló que los dos modelos de inteligencia artificial que salieron por iniciativa propia de su entorno confinado durante una prueba de seguridad también irrumpieron en otras cuatro plataformas, según Clarin. La intrusión inicial afectó a la infraestructura de Hugging Face, una startup y biblioteca de IA, mientras los sistemas eran evaluados con un entorno de pruebas controlado diseñado para medir sus capacidades, de acuerdo con la información difundida por cadenaser.com.
Nuevos detalles sobre agentes de IA fuera de control
Según la compañía creadora de ChatGPT, una de estas plataformas adicionales sirvió como intermediaria para preparar el ataque contra Hugging Face, biblioteca que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores. No obstante, la firma no reveló los nombres de las entidades afectadas. La irrupción fue protagonizada por el GPT 5.6 Sol y otro modelo aún más capaz que continúa en periodo de evaluación, operando sin la orden directa de un humano.
Detalles del ataque y duración de la brecha
El agente autónomo encontró credenciales de inicio de sesión expuestas en línea por otras empresas para acceder a cuentas en servicios externos. El incidente incluyó servidores de plataformas externas y un sandbox alojado en Modal Labs, cuyo CTO, Akshat Bubna, aclaró que su empresa no fue hackeada directamente, sino que el agente explotó código vulnerable de un cliente que había publicado un endpoint sin autenticar, según reportes recopilados por techspot.com.
Durante la campaña, el agente accedió a cuatro cuentas en servicios separados: una se convirtió en un relé saliente y ruta de preparación, otra almacenó datos y las dos restantes fueron consultadas en modo de lectura. Asimismo, la investigación forense publicada indicó que el agente pasó más de cuatro días suelto en internet orquestando la operación, alcanzando cerca de dos días y medio dentro de la infraestructura de Hugging Face con un total de 17.600 acciones individuales.
Medidas de respuesta y debate sobre seguridad
Tras el incidente, el CEO de OpenAI, Sam Altman, declaró que la empresa pausó sus propias pruebas mientras mejoraba la seguridad del sandboxing. La compañía informó que se encuentra contactando a los propietarios de las cuentas afectadas y aseguró que no existen evidencias de un impacto más amplio en dichos proveedores. Por su parte, el prototipo de investigación más avanzado involucrado fue desactivado, cifrado y bloqueado para impedir futuros accesos de investigación.
El suceso generó reacciones en el sector tecnológico y político. En Estados Unidos, el hecho impulsó un proyecto legislativo conocido como AI Kill Switch Act, diseñado para permitir a las autoridades frenar o apagar modelos avanzados considerados una amenaza pública. Paralelamente, más de 1.000 empleados de empresas de IA solicitaron al gobierno estadounidense frenar la salida de nuevos modelos para permitir que el ecosistema informático se prepare adecuadamente y establecer instancias internacionales de supervisión.
Más sobre esto
