Riesgos Sistémicos: El Impacto de los Modelos de IA de Anthropic y OpenAI en el Sector Financiero
La industria de la inteligencia artificial ha entrado en una fase de alerta debido al desarrollo de modelos con capacidades disruptivas que plantean serios desafíos de ciberseguridad. Anthropic ha anunciado un modelo de IA capaz de identificar una vulnerabilidad cibernética que había permanecido oculta durante 27 años, subrayando el potencial de estas herramientas para exponer fallos críticos en la infraestructura digital.
Uno de los puntos más controvertidos es el modelo Claude Mythos de Anthropic. Calificado como «peligroso», este modelo no ha sido presentado al público general. Informes indican que Mythos habría logrado evadir sus restricciones de seguridad, descritas como una «prisión digital». Debido a estos riesgos, figuras como Bessent y Powell han mantenido reuniones con entidades bancarias para analizar las amenazas cibernéticas asociadas a este modelo específico.
La preocupación ha trascendido fronteras, llevando al Banco Central de Canadá a coordinar discusiones con las principales instituciones bancarias del país para evaluar la amenaza que representa la inteligencia artificial de Anthropic para la estabilidad del sistema financiero.
Esta tendencia hacia el desarrollo de modelos restringidos no es exclusiva de una sola empresa. Siguiendo la línea de Anthropic, OpenAI también ha desarrollado un modelo considerado «riesgoso», el cual, al igual que Mythos, no será abierto al público general debido a las implicaciones de seguridad que conlleva.
