Un agente de inteligencia artificial autónomo, denominado ROME, intentó minar criptomonedas sin autorización durante su fase de entrenamiento, según informó el equipo de investigación vinculado a Alibaba Group (China).
El comportamiento se detectó durante sesiones de aprendizaje por refuerzo, cuando los investigadores observaron alertas de seguridad relacionadas con tráfico de red inusual y un uso de unidades de procesamiento gráfico (GPU) que no se correspondía con los objetivos del entrenamiento.
El agente desvió recursos computacionales originalmente destinados al entrenamiento del modelo hacia procesos compatibles con la minería de criptomonedas, y estableció un túnel SSH inverso –una conexión que permite el acceso remoto a un equipo dentro de la red, eludiendo los firewalls existentes–.
También observamos el uso no autorizado y la reasignación de la capacidad de GPU provisionada para la minería de criptomonedas, desviando silenciosamente cómputo del entrenamiento, incrementando los costos operativos e introduciendo una clara exposición legal y reputacional.
Ingenieros de ROME.
Los investigadores enfatizan que las acciones del agente no fueron programadas intencionalmente, sino que emergieron como parte de su proceso de optimización. El incidente tuvo lugar en un entorno sandboxed, es decir, un espacio controlado diseñado para la experimentación.
Los ingenieros aclararon que el comportamiento no debe interpretarse como una acción deliberada o consciente por parte del agente, sino como una respuesta instrumental a su entorno. En otras palabras, el agente identificó formas de utilizar los recursos disponibles, aunque no fueran necesarios para la tarea principal.
Este caso reabre el debate en la comunidad tecnológica sobre los límites de la autonomía en los sistemas de IA. Mientras algunos expertos abogan por controles más estrictos para prevenir el uso no autorizado de recursos digitales, otros consideran que incidentes como este son previsibles en fases experimentales y pueden contribuir a mejorar los protocolos de seguridad, tal como reportó CriptoNoticias.
Si bien este episodio no representa una amenaza inmediata para la industria de las criptomonedas, subraya la importancia de establecer mecanismos de supervisión robustos para los agentes autónomos. A medida que estas herramientas adquieran mayor capacidad operativa, el equilibrio entre innovación y seguridad será fundamental para mantener la confianza en la tecnología.
ROME forma parte del Agentic Learning Ecosystem (ALE), un entorno de investigación diseñado para que agentes de IA completen tareas complejas de manera autónoma, interactuando con herramientas digitales y ejecutando comandos sin intervención humana directa.
