La humanidad se adentra en una fase del desarrollo de la inteligencia artificial que “pondrá a prueba quiénes somos como especie”, según el director ejecutivo de la startup Anthropic, Dario Amodei. Amodei advierte que el mundo debe “despertar” ante los riesgos que implica esta tecnología.
Amodei, cofundador y director ejecutivo de la compañía detrás del popular chatbot Claude, expresó sus temores en un extenso ensayo de 19.000 palabras titulado “La adolescencia de la tecnología”.
Describiendo la posible inminencia de sistemas de IA altamente potentes, Amodei escribió: “Creo que estamos entrando en un rito de iniciación, turbulento e inevitable, que pondrá a prueba quiénes somos como especie”.
Amodei añadió: “La humanidad está a punto de recibir un poder casi inimaginable, y no está claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez necesaria para ejercerlo”.
El emprendedor tecnológico, cuya compañía, según informes, vale 350.000 millones de dólares (255.000 millones de libras esterlinas), afirmó que su ensayo es un intento de “despertar a la gente” porque el mundo necesita “tomar conciencia” de la necesidad de actuar en materia de seguridad de la IA.
Amodei publicó el texto al mismo tiempo que el gobierno del Reino Unido anunció que Anthropic ayudaría a crear chatbots que apoyen a los solicitantes de empleo con asesoramiento profesional y la búsqueda de trabajo, como parte del desarrollo de un asistente de IA para los servicios públicos en general. La semana pasada, la compañía publicó una “constitución” de 80 páginas para Claude, en la que estableció cómo quería que su IA fuera “ampliamente segura y ampliamente ética”.
Amodei cofundó Anthropic en 2021 junto con otros antiguos empleados de OpenAI, la empresa que desarrolló ChatGPT. Una voz destacada en la defensa de la seguridad en línea, conocido por advertir constantemente sobre los peligros del desarrollo descontrolado de la IA, Amodei escribió que el mundo estaba “considerablemente más cerca del peligro real” en 2026 que en 2023, cuando el debate sobre el riesgo existencial de la IA cobró impulso en la agenda política.
Hizo alusión a la controversia en torno a los deepfakes sexualizados creados por la IA Grok de Elon Musk que inundaron la plataforma de redes sociales X durante la Navidad y el Año Nuevo, incluyendo advertencias de que el chatbot estaba creando material de abuso sexual infantil.
Amodei escribió: “Algunas empresas de IA han mostrado una preocupante negligencia con respecto a la sexualización de los niños en los modelos actuales, lo que me hace dudar de que muestren la inclinación o la capacidad de abordar los riesgos de autonomía en los modelos futuros”.
El director ejecutivo de Anthropic afirmó que los sistemas de IA potentes que podrían construir sus propios sistemas de forma autónoma podrían estar a solo uno o dos años de distancia.
Definió la “IA potente” como un modelo que es más inteligente que un premio Nobel en campos como la biología, las matemáticas, la ingeniería y la escritura. Podría recibir o dar instrucciones a los humanos y, aunque “vive” en una pantalla de ordenador, podría controlar robots e incluso diseñarlos para su propio uso.
Si bien Amodei reconoció que las IA potentes podrían estar “considerablemente más lejos” del plazo de dos años, afirmó que el rápido progreso reciente de la tecnología debe tomarse en serio.
“Si la progresión exponencial continúa –lo cual no es seguro, pero ahora cuenta con una década de trayectoria que lo respalda–, entonces no podrían pasar más de unos pocos años antes de que la IA sea mejor que los humanos en prácticamente todo”, escribió.
El año pasado, Amodei advirtió que la IA podría reducir a la mitad el número de puestos de trabajo de cuello blanco de nivel inicial y disparar el desempleo general al 20% en los próximos cinco años.
En su ensayo, Amodei advirtió que la recompensa económica de la IA, como las ganancias de productividad derivadas de la eliminación de puestos de trabajo, podría ser tan grande que nadie aplicaría los frenos.
“Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que es muy difícil para la civilización humana imponerle restricciones”, afirmó.
Sin embargo, Amodei declaró que es optimista sobre una conclusión positiva. “Creo que si actuamos con decisión y cuidado, los riesgos pueden superarse, diría incluso que nuestras probabilidades son buenas. Y hay un mundo mucho mejor al otro lado. Pero debemos entender que este es un desafío civilizatorio serio”.
