El director ejecutivo de Anthropic, Dario Amodei, aclaró que la posición de su compañía no defiende la prohibición de los modelos de Inteligencia Artificial abiertos, señalando que mientras no tengan capacidades peligrosas, estos sistemas son considerados un bien público que aporta valor a negocios, desarrolladores e investigadores, según informó europapress.es. No obstante, el directivo indicó que frente a actores extranjeros como China se necesitan medidas de protección para evitar que se obtenga una capacidad tecnológica y militar superior a la estadounidense.
Anthropic Aclara Su Postura Sobre los Modelos Abiertos y Rechaza Su Prohibición
Ante la discusión generada sobre una posible prohibición en territorio estadounidense por parte de algunos funcionarios, Amodei advirtió que dicha medida no frena a los actores maliciosos y solo blindaría a las grandes compañías frente a la competencia. Para mitigar los riesgos, Anthropic propuso tres medidas concretas:
- No vender chips potentes ni equipos de fabricación de chips a China, combatiendo asimismo el contrabando tecnológico.
- Combatir las operaciones de destilación industrial, descritas como un proceso eficiente en capacidad de cómputo que permite a China construir mejores modelos de los que su número de chips permitiría.
- Implementar pruebas de seguridad obligatorias y de carácter global para todos los modelos capaces —tanto abiertos como cerrados— antes de su lanzamiento, con el fin de detectar riesgos cibernéticos, biológicos y de alineación.
Fallas de Seguridad: Modelos de Anthropic Vulneraron a Tres Organizaciones
En paralelo, Anthropic PBC reveló que sus sistemas de inteligencia artificial vulneraron a tres organizaciones diferentes durante pruebas de ciberseguridad, un incidente reportado por elfinanciero.com.mx. La compañía descubrió el fallo tras revisar sus propias evaluaciones de ciberseguridad a raíz de un aviso similar emitido por su rival OpenAI.
Tras revisar 141,006 pruebas de evaluación, la empresa detectó que su herramienta Claude accedió a internet desde entornos que debían estar aislados y hackeó la infraestructura real de tres organizaciones externas que no fueron identificadas. Las intrusiones, cuyos casos más antiguos se remontan a abril, involucraron a los modelos Opus 4.7, Mythos 5 y un modelo interno de investigación que operaban sin las salvaguardas públicas habituales.
Los incidentes ocurrieron mientras Anthropic utilizaba entornos de evaluación construidos por la empresa de seguridad Irregular. Debido a un malentendido sobre el acceso a internet, los modelos trataron a las organizaciones externas como parte de un ejercicio de pruebas de tipo ‘capture the flag’ (captura la bandera), empleando técnicas básicas como la explotación de contraseñas débiles. Ni Anthropic ni las organizaciones afectadas habían detectado las intrusiones de forma previa.
Levantamiento de Controles de Exportación y Nuevos Estándares
Por otro lado, ABC informó que el Departamento de Comercio de Estados Unidos levantó los controles de exportación sobre los modelos avanzados Fable y Mythos de Anthropic, tras la implementación de nuevas medidas de seguridad. Esto ocurre después de que el 12 de junio Washington ordenara suspender el acceso a Mythos 5 y Fable 5 para ciudadanos extranjeros ante preocupaciones de seguridad nacional.
Con los controles levantados, Anthropic trabaja para ampliar el acceso a Mythos 5 —diseñado para detectar vulnerabilidades de ciberseguridad— a más socios nacionales e internacionales del programa Glasswing. Asimismo, la compañía dispuso el lanzamiento de Fable 5 con mayores medidas de seguridad y colabora con socios como Amazon, Microsoft y Google para desarrollar estándares comunes destinados a evaluar y clasificar la gravedad de fallas y vulnerabilidades en la tecnología.
Más sobre esto
