La empresa Anthropic reveló en un informe reciente que insurgentes en Yemen utilizaron una herramienta de inteligencia artificial para intentar desarrollar software de guía de ubicación para armas, según detalló The Washington Post. El caso forma parte de una serie de incidentes documentados que exponen el uso indebido de los modelos de la familia Claude en distintos contextos geopolíticos y de conflicto.
Insurgentes y actores estatales utilizan la IA de Anthropic para el desarrollo de armamento
De acuerdo con la información difundida por la compañía, el uso de su tecnología se ha extendido al diseño y desarrollo de armamento convencional, abarcando armas de fuego, misiles, drones armados y bombas. Los registros señalan que estos intentos se concentraron en varios países, registrándose tres casos en China, dos en Rusia y uno en Yemen, región donde operan milicias chiíes aliadas de Irán que han amenazado con cerrar el estrecho de Bab el-Mandeb.
Bloqueos en investigaciones sobre armas biológicas
Junto al desarrollo de armamento convencional, el informe de Anthropic detalla que se detectaron y bloquearon múltiples intentos de utilizar Claude para investigaciones que podrían facilitar la creación de armas biológicas y patógenos peligrosos, tal como recogió Reuters. Debido al carácter de doble uso de la investigación biológica, la compañía reconoció que no pudo determinar con certeza si las intenciones de los científicos eran legítimas o maliciosas.
Entre los episodios específicos destaca un caso detectado en mayo, en el cual un investigador solicitó ayuda a la inteligencia artificial para preparar una solicitud de financiación destinada a una investigación de ganancia de función sobre el virus chikungunya. El propósito era introducir mutaciones mediante la transmisión repetida entre animales para incrementar su virulencia. Ante la posibilidad de que la petición estuviera vinculada a un instituto militar, y tras constatar que algunos usuarios emplearon técnicas para ocultar el propósito real de sus trabajos y sortear restricciones geográficas, elespanol.com procedió a bloquear las cuentas involucradas.
Ciberespionaje, campañas de propaganda y respuesta de la compañía
El documento también documenta operaciones de ciberespionaje y ataques informáticos en los que se emplearon marcos multiagente con modelos Claude para automatizar fases de reconocimiento y explotación, incluyendo acciones de grupos vinculados a Rusia contra funcionarios de Ucrania. Asimismo, se identificaron actores gubernamentales de China e Irán utilizando los sistemas para vigilar a disidentes y miembros de sus diásporas, así como el uso de la IA por parte de medios estatales rusos para generar propaganda y contenidos sobre las elecciones en Moldavia.
Frente a estos riesgos y a los intentos de laboratorios chinos como Alibaba, Moonshot, DeepSeek y Xiaomi por extraer capacidades de sus sistemas, Anthropic ha reforzado sus mecanismos de seguridad y salvaguardas en modelos de frontera. La empresa mantiene su estrategia de interrumpir las actividades maliciosas y compartir información de inteligencia con las autoridades y socios de la industria.
Más sobre esto