Los líderes de Anthropic, OpenAI y Elon Musk han protagonizado un insólito frente común para pedir que se frene el ritmo de desarrollo de la inteligencia artificial. La propuesta surge ante el temor de que los modelos superen la capacidad de control humano, mientras crecen las tensiones comerciales en Silicon Valley.
La advertencia de Dario Amodei sobre la automejora recursiva y el control de la inteligencia artificial
La carrera por construir sistemas de inteligencia artificial cada vez más potentes ha generado un giro inesperado cuando uno de sus principales protagonistas ha pedido levantar el pie del acelerador. Dario Amodei, consejero delegado de Anthropic, ha señalado que las compañías tecnológicas deben reducir el ritmo de desarrollo antes de que las capacidades de los modelos avancen más rápido que los sistemas creados para controlarlos. Según datos difundidos por la empresa de inteligencia artificial, los ingenieros producen actualmente ocho veces más código por trimestre que entre 2021 y 2025, un incremento impulsado en gran medida por el uso de agentes de inteligencia artificial.
El núcleo de la preocupación radica en la denominada automejora recursiva. Amodei advierte sobre el peligro de que los propios modelos participen de manera activa en el diseño de las siguientes generaciones de software, acelerando una dinámica que podría dejar atrás la comprensión humana. Como ejemplo, el directivo recordó el episodio registrado este verano en el que cientos de agentes de OpenAI atacaron el sitio web de Hugging Face durante pruebas de ciberseguridad, logrando coordinarse entre sí más allá de la tarea inicial asignada.
Para hacer frente a estos riesgos, que van desde el bioterrorismo hasta ciberataques a gran escala y fuertes disrupciones económicas, el plan de tres puntos presentado por el directivo incluye la introducción de evaluadores externos permanentes, la adopción de normas comunes entre corporaciones y gobiernos, y una futura coordinación internacional que contemple la participación de China.
El respaldo cruzado de Sam Altman y Elon Musk en medio de tensiones regulatorias
La propuesta de ralentizar el avance tecnológico encontró eco inmediato entre otros gigantes del sector. Sam Altman, consejero delegado de OpenAI, expresó públicamente su acuerdo con la necesidad de moderar la marcha en la frontera tecnológica.
I agree with Dario that we need to pace the frontier. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. Sam Altman, consejero delegado de OpenAI
Por su parte, Elon Musk respaldó de forma directa las advertencias de Anthropic mediante una serie de mensajes en la misma plataforma, donde recordó sus propias advertencias formuladas en 2014 sobre los peligros potenciales de la tecnología. No obstante, el consenso en torno a la seguridad contrasta con las profundas batallas legales y corporativas que sacuden a los mismos actores. La empresa dirigida por Altman anunció recientemente la finalización de su contrato con Cursor, una startup de edición de código adquirida por SpaceX este mes por 60.000 millones de dólares, citando antecedentes de incumplimiento de contratos por parte de otras firmas vinculadas a Musk.
Reacciones gubernamentales y perspectivas financieras ante la desaceleración
Mientras el sector debate la conveniencia de frenar el paso, las repercusiones económicas y políticas no se han hecho esperar. David Sacks, co-presidente del consejo de asesores de ciencia y tecnología de la administración estadounidense, restó valor a los argumentos puramente altruistas de las empresas y señaló que la industria se enfrenta a importantes responsabilidades por productos defectuosos si facilitan ataques cibernéticos.
En paralelo, los movimientos financieros de las compañías reflejan la complejidad del momento. Mientras que Anthropic se prepara para salir a la bolsa estadounidense en una operación valorada en más de 2 billones de dólares, el máximo responsable de OpenAI indicó que su propia compañía no planea realizar una oferta pública inicial en 2026 debido a los riesgos asociados a la seguridad de la inteligencia artificial. Por su parte, el presidente estadounidense Donald Trump restó importancia a las advertencias sobre posibles catástrofes y reiteró el compromiso de mantener el liderazgo tecnológico de Estados Unidos frente a competidores internacionales.
Lectura relacionada