La posibilidad de que la inteligencia artificial (IA) acabe con la humanidad en la próxima década ha reabierto un intenso debate entre expertos y exempleados de grandes tecnológicas, tal como detalla un informe sobre el sector. La polémica se intensificó tras la dimisión de Jacob Coxon, investigador especializado en el entrenamiento de modelos de IA, quien abandonó la empresa Anthropic tras haber trabajado tres años en OpenAI. En un comunicado difundido en la red social X, Coxon afirmó que ninguna de las dos compañías está actuando de forma responsable y las acusó de competir por desarrollar una superinteligencia capaz de mejorarse a sí misma sin supervisión humana.
El debate sobre los riesgos de extinción y los límites de la inteligencia artificial
Las advertencias de Coxon recibieron el respaldo de Evan Hubinger, responsable de Ciencia de Alineamiento de Anthropic, quien declaró públicamente que existe una probabilidad superior al 10% de que se produzca una catástrofe que afecte a la humanidad en la próxima década. Hubinger reconoció que la compañía aún no dispone de un plan para resolver el alineamiento de la superinteligencia y controlar esa tecnología. Estas posturas se suman a las declaraciones de Geoffrey Hinton, conocido como el padrino de la IA, quien calificó la estimación de un 10% de riesgo de extinción en diez años como un cálculo razonable, según una recopilación de análisis sobre el tema.
Perspectivas divididas entre expertos y autoridades
La comunidad científica y los responsables políticos mantienen posiciones encontradas frente a las previsiones más alarmistas. Por un lado, figuras como el senador estadounidense Bernie Sanders han exigido que se escuche a los premios Nobel y han pedido la prohibición de la superinteligencia artificial, señalando que las empresas admiten públicamente que desarrollan tecnologías peligrosas sin saber hacia dónde se dirigen. En la misma línea, Roman Yampolskiy, autor de un libro sobre superinteligencia artificial, consideró la estimación de Hubinger como conservadora y afirmó que, condicionado a la creación de una superinteligencia general, el riesgo de extinción humana se sitúa significativamente por encima del 90%.
Por otro lado, existen voces escépticas ante estos escenarios catastróficos. Gary Marcus, investigador y autor, admitió la existencia de riesgos graves relacionados con ciberataques, armas biológicas y desinformación, pero matizó que no conoce ningún escenario realista de extinción total de la humanidad. Asimismo, Toby Ord, investigador de Oxford y autor de The Precipice
, situó el riesgo de destrucción humana en torno a uno entre diez para el año 2100. Un análisis especializado sobre el alcance real de estas amenazas apunta a que las predicciones extremas a menudo conectan con temores ancestrales alimentados por la ciencia ficción, y recuerda que la superinteligencia aún no existe y carece de un marco temporal definido.
Amenazas actuales y problemas demostrables
Más allá de los debates sobre el futuro existencial, diversos especialistas subrayan que los daños reales ya se están manifestando en la actualidad. Los modelos actuales carecen de conciencia o voluntad propia, pero operan mediante grandes volúmenes de datos y patrones estadísticos que pueden generar respuestas erróneas con apariencia de certeza, afectando a decisiones judiciales, médicas, laborales o financieras si se utilizan sin supervisión. Tal como señala un análisis sobre los peligros actuales de la tecnología, la expansión de la IA facilita la creación de campañas de desinformación más baratas y convincentes, además de plantear desafíos urgentes en materia de transparencia sobre el uso de datos personales y obras protegidas.
El impacto de la automatización también abarca el ámbito laboral, transformando tareas administrativas, de atención al cliente, traducción y programación, lo que podría incrementar la desigualdad si los beneficios económicos quedan concentrados en pocas empresas.
También te puede interesar