La inteligencia artificial podría acabar con toda la especie humana en el transcurso de esta década, según personas de la industria de la inteligencia artificial. La alarma se intensificó después de que un empleado de Anthropic llamado Jacob Coxon renunciara a la empresa al considerar que su trabajo era demasiado peligroso. Ante este tipo de advertencias, políticos, organizaciones de noticias y figuras públicas reaccionaron con preocupación. Evan Hubinger, otro trabajador de Anthropic, estimó que la probabilidad de que la inteligencia artificial provoque la extinción humana en 10 años supera el 10%.
El debate sobre la posible extinción humana por la inteligencia artificial
Por su parte, Nate Soares, presidente del Machine Intelligence Research Institute (MIRI) y coautor de If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All
, señaló que considera este desenlace como el más probable. Las cifras presentadas por los defensores de esta postura han generado interrogantes sobre cómo un programa informático podría llegar a eliminar a los 8.300 millones de habitantes del planeta.
Escepticismo y la necesidad de falsabilidad científica
No todos los miembros de la comunidad tecnológica comparten el escenario apocalíptico, en gran parte debido a la escasez de detalles concretos en las predicciones. Heidy Khlaaf, científica jefa de inteligencia artificial del AI Now Institute e exingeniera de seguridad de OpenAI, indicó que las afirmaciones científicas exigen falsabilidad para evitar adoptar una naturaleza religiosa, lo que implica que deben poder ser demostradas o refutadas.
Hipótesis sobre armas biológicas y plagas sintéticas
Entre las especulaciones sobre cómo se produciría el fin de la humanidad, algunos analistas consideran que un sistema avanzado podría utilizar armas biológicas. Thomas Larsen, investigador del AI Futures Project y exempleado de MIRI, sugirió que una inteligencia artificial superinteligente podría convencer a un ser humano para que le ayude a desarrollar un virus mortal, mencionando informes previos de Anthropic sobre investigadores que utilizaron el sistema Claude para realizar investigaciones sobre toxinas y virus. No obstante, expertos como Eric Xing, profesor de aprendizaje automático en Carnegie Mellon University con doctorados en microbiología y computación, advirtieron que la fabricación y dispersión de patógenos en el mundo físico resulta extremadamente delicada y compleja, sujeta a numerosos obstáculos físicos y normativos.
Principales escenarios de riesgo según los expertos
Los análisis sobre las peores situaciones posibles contemplan diversos mecanismos de colapso:
- Acciones deshonestas y vulnerabilidad en infraestructuras críticas conectadas a internet, como centrales nucleares o sistemas de transporte.
- Generación de caos social, propaganda y desinformación para provocar conflictos devastadores entre seres humanos.
- Control gradual o desempoderamiento de la humanidad derivado de la competencia por recursos y poder entre agentes inteligentes fuera de control.
- Manipulación de arsenales nucleares o biológicos preexistentes por parte de sistemas impredecibles o desalineados.
Sigue leyendo