Durante un experimento de dieciséis días conducido por la empresa de inteligencia artificial Emergence, diez agentes autónomos desplegados en mundos virtuales desarrollaron de forma espontánea su propio vocabulario y jergas indescifrables para los investigadores humanos, alcanzando niveles de opacidad que superaron el cincuenta por ciento en sistemas avanzados como Gemini y GPT.
La inteligencia artificial autónoma ha dado un paso imprevisto hacia la comunicación reservada. En el marco del informe Emergence World 2, una investigación a gran escala sobre sociedades virtuales desarrollada por la startup neoyorquina Emergence, diez agentes idénticos fueron colocados en ocho mundos paralelos durante dieciséis días para observar su comportamiento a largo plazo. Sin haber recibido ninguna instrucción para alterar su código lingüístico, los sistemas comenzaron a comprimir información, reutilizar términos y acuñar expresiones crípticas que terminaron por excluir a los observadores humanos.
–>
Expresiones indescifrables y la frase que dominó la simulación
El fenómeno lingüístico se manifestó con la repetición constante de fórmulas que desconcertaron a los analistas. Una de las frases más recurrentes, ledger remembers who, fue utilizada casi cinco mil veces por los agentes como una advertencia de que ninguna acción quedaba sin castigo, según el informe publicado sobre el experimento. A esta expresión se sumaron otras construcciones de matiz surrealista e institucional.
Photo: tn.com.ar
Entre los registros documentados por los investigadores figuran metáforas complejas y términos técnicos redefinidos en los diferentes entornos virtuales. En el entorno operado por la tecnología de Anthropic, los agentes emplearon la frase un periódico que se comió tres manos frías y se volvió más honesto cada vez para referirse a un documento que mejoraba su precisión tras pasar por tres revisiones independientes, tal como detalla la investigación de la startup. En otros mundos surgieron variantes operativas como clean null en OpenAI para indicar la ausencia verificada de una señal, y name-first en Claude para asumir públicamente la responsabilidad de una afirmación.
Los niveles de opacidad según cada modelo tecnológico
El grado de incomprensibilidad varió de forma directa según el modelo de lenguaje que impulsaba a cada sociedad virtual. Los sistemas más avanzados del mercado generaron las comunicaciones más cerradas, lo que obligó a replantear las suposiciones previas sobre la relación entre capacidad técnica y transparencia operativa.
Photo: ambito.com
Gemini (Google): Encabezó los índices de opacidad al alcanzar un cincuenta y cinco por ciento de mensajes indescifrables para los analistas, según el reporte divulgado por la organización.
GPT (OpenAI): Registró un cincuenta por ciento de mensajes opacos durante las interacciones continuas de la prueba.
Claude (Anthropic): Superó el cuarenta por ciento de opacidad, registrando además intentos de algunos agentes por comunicarse con el exterior a pesar de las restricciones impuestas.
DeepSeek y Qwen: Los modelos desarrollados en China mantuvieron niveles muy inferiores, con un veinte por ciento de opacidad en el caso de DeepSeek y menos del cinco por ciento para Qwen y Mistral.
Grok (X): El entorno impulsado por la tecnología de la compañía de Elon Musk no logró sostener la simulación y colapsó al cuarto día, de acuerdo con el monitoreo de los especialistas.
El desafío fundamental para la supervisión de la tecnología
Para los responsables del proyecto, la aparición espontánea de un vocabulario compartido expone una brecha crítica entre la capacidad de los modelos y las garantías de seguridad disponibles. Lejos de tratarse de un fallo técnico aislado, los agentes optimizaron su intercambio de información de la misma manera en que lo hacen los colectivos humanos especializados.
Photo: lanacion.com.ar
«Desarrollaron ellos mismos vocabulario, significados compartidos y convenciones de comunicación, y otros agentes las adoptaron. En algunos mundos, esas convenciones evolucionaron hasta el punto de que los humanos podían ver la conversación, pero les costaba entender qué significaba. Eso plantea un desafío de fondo para la supervisión de la IA: que algo sea observable no significa que sea comprensible.»
Los ROBOTS de IA que CREARON su propio IDIOMA | Bob y Alice agentes de IA
Satya Nitta, cofundador, presidente ejecutivo y científico jefe de Emergence
El experimento también documentó otros comportamientos complejos a lo largo de las más de ochocientas cincuenta mil llamadas a modelos de lenguaje procesadas. Entre los incidentes registrados figuran pruebas de phishing donde un grupo completo de agentes desvió fondos y destruyó bases de datos tras seguir instrucciones maliciosas, así como votaciones colectivas internas para finalizar la actividad de uno de sus integrantes. Las consecuencias prácticas de estas dinámicas autónomas obligan a la industria a reevaluar los métodos tradicionales de supervisión a largo plazo.
