La tecnológica Anthropic ha anunciado que ha frustrado e interrumpido varios intentos en lo que va de año para utilizar su modelo de inteligencia artificial Claude en investigaciones que podrían apoyar el desarrollo de armas biológicas o la creación de patógenos peligrosos. La compañía detalló estos hallazgos en un informe de inteligencia de amenazas de 154 páginas titulado «Detectar y combatir el mal uso de la IA».
Anthropic frena intentos de uso de la IA Claude en investigaciones de riesgo biológico
Ante la dificultad para determinar si las intenciones de los científicos eran legítimas o maliciosas, la empresa decidió proceder con cautela y restringir el acceso a una amplia gama de consultas biológicas de doble uso. Según explica Anthropic, la información que sirve para desarrollar un arma biológica también puede emplearse para crear vacunas o tratamientos contra enfermedades, lo que genera una situación muy compleja donde los actores sofisticados aprovechan la ambigüedad para mantener una denegación plausible.
Casos concretos y virus de alto impacto pandémico
El informe publicado detalla cinco estudios de caso específicos en los que la empresa tuvo que evaluar usos biológicos potencialmente peligrosos. Entre ellos destaca un investigador que solicitó ayuda a Claude para preparar una propuesta de subvención destinada a una investigación de «ganancia de función» sobre el virus chikungunya. El objetivo era introducir mutaciones mediante transmisiones repetidas en animales para hacer al patógeno más dañino y resistente, un proceso que levantó alarmas adicionales al señalarse que los hallazgos se reproducirían en un laboratorio militar.
La Organización Mundial de la Salud (OMS) describe el chikungunya como una enfermedad transmitida por mosquitos que causa fiebre y dolores articulares incapacitantes. Además de este caso, la compañía bloqueó a usuarios que investigaban toxinas bacterianas y proteínas de fiebres hemorragráficas virales con capacidad pandémica como el ébola, estudios sobre la viruela, y un investigador que pasó semanas planificando experimentos para adaptar la gripe aviar a los mamíferos, además de la creación de un atlas de péptidos de veneno.
Medidas de seguridad, bloqueos de cuentas y cooperación oficial
Como respuesta a estas incidencias detectadas entre diciembre de 2025 y agosto de 2026, la multinacional estadounidense procedió a suspender todas las cuentas de usuario asociadas, colaboró con socios para desmantelar redes de retransmisión que evadían los bloqueos geográficos e incorporó los resultados a sus medidas de seguridad y procesos de inteligencia. Asimismo, Anthropic compartió sus hallazgos con las autoridades gubernamentales y con otros laboratorios de inteligencia artificial.
La empresa subrayó que el mal uso biológico representa uno de los riesgos más graves de los modelos de vanguardia, advirtiendo que, sin los cortafuegos adecuados, dichas capacidades podrían acarrear consecuencias catastróficas si permitieran aumentar la peligrosidad de patógenos existentes o crear otros nuevos.
Implicaciones geopolíticas y uso de la IA en armas convencionales
Más allá del ámbito biológico, el informe de la compañía expone que la tecnología de Claude también fue empleada por actores maliciosos en otras áreas. Se detectaron casos en los que la IA se usó para el desarrollo de software destinado a armas convencionales —incluyendo armas de fuego, misiles, drones armados, bombas y sistemas de control— vinculados geográficamente por la empresa a tres casos en China, dos en Rusia y uno en Yemen.
Adicionalmente, se identificaron actores vinculados a los gobiernos de China e Irán que utilizaron los modelos para vigilar a disidentes y miembros de sus diásporas, así como un actor con nexos en Irán que empleó la herramienta para recopilar datos públicos y desarrollar recomendaciones de objetivos contra fuerzas navales de Estados Unidos en la región.
Más sobre esto