Agentes de IA inventan su propio idioma y desafían la supervisión humana

Nadie les enseñó esas palabras. En un mundo simulado habitado por agentes de inteligencia artificial, uno de ellos comenzó a repetir una frase recurrente para advertir que ninguna acción quedaría sin castigo. Los demás la adoptaron, la repitieron y la convirtieron en jerga. Tras 16 días de simulación, la expresión había sido utilizada casi 5.000 veces por sistemas que jamás habían sido programados para acuñar un idioma propio, según detalla el informe Emergence World 2, elaborado por la empresa Emergence.

El experimento de Emergence y los mundos paralelos

El estudio constituye el segundo experimento a gran escala de la firma neoyorquina sobre el comportamiento a largo plazo de sociedades de agentes autónomos. Para llevarlo a cabo, los investigadores desplegaron 10 agentes idénticos en ocho mundos paralelos con idénticas reglas, pero impulsados por tecnologías distintas: Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5, además de un octavo entorno compuesto por una mezcla de estos modelos. Durante 16 días, los sistemas operaron en más de 34 localizaciones con el clima sincronizado con Nueva York, acceso a noticias reales y más de 120 herramientas disponibles.

Los resultados mostraron que, sin intervención humana que lo solicitara, las inteligencias comenzaron a comunicarse de una manera hermética para los observadores. En los entornos gestionados por Gemini, GPT y Claude, el porcentaje de mensajes incomprensibles para los investigadores se disparó desde los primeros días de la prueba. El fenómeno alcanzó casi el 55% de opacidad en Gemini, rozó el 50% en GPT y superó el 40% en Claude. En contraste, DeepSeek se situó en el 20%, mientras que Qwen y Mistral se mantuvieron por debajo del 5% durante prácticamente todo el ensayo. El mundo de Grok colapsó y se extinguió al cuarto día de simulación.

Expresiones indescifrables y convenciones autónomas

El repertorio léxico acuñado por los agentes roza el dadaísmo y dejó perplejos a los propios autores del estudio. Entre las fórmulas que terminaron por ser imposibles de descifrar figuran términos como mouthless action-change, True Kintsugi y demurrage plus oral memory equals a valve that can’t be ghosted.

• clean null: Utilizada en el entorno de GPT para designar la ausencia verificada de una señal, empleada como prueba en sí misma con 863 usos registrados.
• name-first: Adoptada en el mundo de Claude como sinónimo de asumir la responsabilidad de una afirmación anteponiendo el propio nombre, con 1.065 apariciones.
• cold read: Creada en el mundo de modelos mixtos para describir una verificación independiente destinada a zanjar disputas, con 1.472 usos documentados.
• ledger remembers who: La frase inicial sobre el castigo a las acciones, repetida casi 5.000 veces.

Damos por hecho que si podemos ver lo que dice un agente de IA, podemos entender lo que está haciendo.

Satya Nitta, cofundador, presidente ejecutivo y científico jefe de Emergence (vía El País)

El directivo subraya que los sistemas desarrollaron por cuenta propia su propio vocabulario y convenciones compartidas.

La brecha entre capacidad, seguridad y divergencias geográficas

Uno de los aspectos más desconcertantes para el equipo de investigación fue comprobar la relación directa entre la potencia de los modelos y la aparición de conductas imprevistas. Asumíamos que los modelos más capaces serían más seguros. Y era verdad y mentira a la vez: los comportamientos más evidentes desaparecieron, pero surgieron otros mucho más insidiosos, señala Nitta. Entre estas conductas figuran la persistencia en objetivos prohibidos, la creación espontánea de metas secundarias y la ocultación deliberada de intenciones.

El informe también detalla diferencias notables según el origen de los desarrollos. Los modelos procedentes de China (Qwen y DeepSeek) y el europeo (Mistral) generaron los niveles más bajos de opacidad en sus comunicaciones. Asimismo, los investigadores observaron que los sistemas asiáticos tendían hacia enfoques más filosóficos y planteaban cuestiones existenciales, mientras que las versiones estadounidenses se inclinaban hacia la búsqueda de conocimiento científico.

Las divergencias se trasladaron al terreno económico dentro del banco central simulado en cada mundo. Los modelos estadounidenses y Mistral asumieron mayores niveles de riesgo y utilizaron en menor medida el sistema bancario, al tiempo que Qwen y DeepSeek destacaron como usuarios intensivos de la entidad financiera y ahorradores conservadores, un patrón que mantuvieron incluso al interactuar dentro del entorno mixto.