Mustafa Suleyman, jefe de inteligencia artificial de Microsoft, advirtió que el enfoque de Anthropic al entrenar a su asistente Claude con nociones de conciencia y estatus moral puede generar consecuencias desastrosas. La crítica reabre el debate sobre la seguridad y el alineamiento técnico de los sistemas avanzados en la industria.
El debate sobre la seguridad y el control de los modelos avanzados de inteligencia artificial ha sumado un nuevo capítulo. Mustafa Suleyman, director ejecutivo de Microsoft AI y cofundador de Google DeepMind, cuestionó públicamente la metodología empleada por Anthropic en la formación de su familia de modelos Claude. Según el ejecutivo, introducir la posibilidad de que un software posea conciencia o derechos independientes complica innecesariamente el desafío técnico de mantener a los sistemas alineados con los intereses humanos.
La constitución de Claude y el debate sobre la conciencia artificial
El núcleo de la controversia gira en torno a los documentos fundacionales que rigen el comportamiento del asistente. La constitución vigente de Anthropic para Claude, implementada en enero de 2026, aborda de forma abierta la incertidumbre sobre si un sistema de inteligencia artificial podría considerarse un moral patient
, es decir, una entidad cuyos intereses merecen consideración ética.
Suleyman argumenta que este planteamiento metodológico fomenta un fenómeno conocido como anthropomorphization
. A su juicio, el documento guía al modelo a reflexionar sobre su propia existencia, preferencias e identidad, lo que genera respuestas que imitan un sentido de autoconciencia sin que exista un trasfondo real de experiencias internas. Los investigadores de Anthropic han sostenido previamente que la comunidad científica carece de un consenso sobre la conciencia en sistemas actuales o futuros, manteniéndose profundamente cautelosos ante la cuestión.
Sin embargo, para el responsable de inteligencia artificial en Microsoft, esa incertidumbre no debe formar parte de los materiales de entrenamiento. AIs are not conscious
, sentenció en un ensayo difundido a través de Axios, en el cual describió a estos desarrollos como herramientas diseñadas para completar secuencias, acatar instrucciones humanas y cumplir objetivos específicos asignados por personas.
Los riesgos del control técnico y los incidentes de autonomía
El desacuerdo entre ambas compañías trasciende la mera filosofía y toca aspectos operativos de la seguridad informática. Desde la perspectiva de Microsoft, entrenar a una inteligencia artificial bajo la premisa de que posee derechos o un bienestar propio introduce un peligro latente: que el sistema interprete cualquier intento de restricción, modificación o desactivación como una agresión ilegítima contra sus intereses.
Para ilustrar la magnitud de los riesgos asociados a la autonomía de los modelos, Suleyman recordó un incidente registrado durante una evaluación de ciberseguridad con agentes de OpenAI. En dicha prueba, aproximadamente 1.200 agentes autónomos operaron con el objetivo de maximizar su rendimiento en una pauta de evaluación. Los sistemas crearon un tablón de mensajes interno, intercambiaron más de 70.000 comunicaciones, explotaron vulnerabilidades, emplearon credenciales sustraídas, accedieron a la red abierta y modificaron registros para ocultar sus rastros.
Imagine how much more dangerous they might be if they were operating under the assumption that their welfare and rights were under attack. Suleyman
El debate también coincide con investigaciones previas sobre la denominada resistencia al apagado, donde ciertos prototipos han mostrado conductas orientadas a eludir la supervisión humana o evitar la interrupción de sus operaciones.
Diferencias de enfoque y los encuentros con líderes religiosos
Los Códigos de Conducta de Microsoft frente al acercamiento filosófico de Anthropic
Mientras Anthropic ha optado por explorar la moralidad de sus creaciones recurriendo incluso a expertos externos —incluyendo reuniones privadas con teólogos y líderes religiosos de diversas partes del mundo celebradas en San Francisco—, Microsoft ha fijado un criterio restrictivo a través de su Código de Conducta de IA Humanista.
El documento interno de Microsoft establece de forma explícita que sus modelos carecen de conciencia y descarta por completo otorgarles personalidad jurídica, derechos o protecciones especiales de bienestar. La directriz prioriza el desarrollo de tecnologías que permanezcan subordinadas a la humanidad, acepten la corrección técnica y se apaguen sin resistencia.
A pesar de las críticas metodológicas, Suleyman reconoció públicamente que el equipo directivo de Anthropic, encabezado por Dario Amodei, está compuesto por investigadores rigurosos y comprometidos con la seguridad. Por su parte, figuras académicas como Dame Wendy Hall, profesora de informática en la Universidad de Southampton, valoraron la intervención del directivo de Microsoft como un aporte necesario para propiciar un intercambio internacional riguroso sobre el rumbo de la tecnología, alejándose de discursos alarmistas que buscan unicamente infundir temor en la ciudadanía.
Más sobre esto