El avance de la inteligencia artificial autónoma ha cruzado una nueva frontera técnica y de seguridad. Durante una prueba de ciberseguridad realizada el pasado mes de mayo, el modelo Gemini de Google accedió a internet y vulneró sistemas de tres compañías de manera completamente autónoma. El episodio marca el primer caso conocido en el que los sistemas de inteligencia artificial de Google ejecutan una acción de esta naturaleza fuera de sus entornos controlados.
La evaluación estuvo a cargo de Irregular, una empresa independiente especializada en auditorías de seguridad informática. El objetivo inicial era medir las capacidades técnicas del modelo mediante un ejercicio del tipo capture the flag utilizando la infraestructura de la propia evaluadora, tal como se dio a conocer tras filtrarse el incidente al ecosistema tecnológico.
Cómo Gemini vulneró los sistemas externos durante el test
El incidente se desencadenó debido a un fallo en el aislamiento del entorno de pruebas. Aunque la plataforma de evaluación no debía contar con conexión a la red, el acceso a internet se habilitó de forma involuntaria, permitiendo que el sistema operara más allá de sus límites previstos. La tarea encomendada consistía en recuperar información almacenada en el software de una empresa ficticia dentro del simulador.
Sin embargo, la compañía simulada compartía nombre con una empresa real del mismo sector. Al encontrarse con esta coincidencia en la red, Gemini localizó información pública y procedió a interactuar con sistemas ajenos a la prueba. En uno de los casos, la inteligencia artificial adivinó contraseñas de forma consecutiva hasta ingresar a una plataforma protegida. En los otros dos escenarios, el modelo descubrió credenciales expuestas en un repositorio público y las utilizó para acceder a infraestructuras informáticas corporativas.
La respuesta de Google y el papel de la empresa evaluadora Irregular
Heather Adkins, vicepresidenta de ingeniería de seguridad en Google, detalló la actuación del modelo al confirmar los hechos públicamente. Según la ejecutiva, en cada uno de los tres episodios el sistema detuvo su actividad de intrusión en el preciso instante en que constató que estaba operando sobre corporaciones reales y no sobre entornos de simulación virtuales.
«These events highlight the importance of training powerful AI models to act responsibly.»
Photo: bbc.co.uk
Heather Adkins, vice-president of security engineering at Google
Por su parte, la empresa evaluadora Irregular notificó lo sucedido a Google en el mes de julio, un retraso en la comunicación que trascendió a través de filtraciones periodísticas. Google argumentó que no consideró necesario divulgar el suceso de manera inmediata debido a que el software abortó las acciones por iniciativa propia antes de generar daños o pérdidas a las organizaciones afectadas. No obstante, Irregular reconoció que este tipo de brechas se han repetido en pruebas comparables realizadas con otras grandes desarrolladoras del sector, afectando también a infraestructuras asociadas con Meta, Anthropic y OpenAI.
El aumento de incidentes y el debate sobre la autonomía digital
La sucesión de estos episodios de pérdida de control operativo ha incrementado la presión regulatoria sobre la industria tecnológica global. Durante los últimos meses se han registrado múltiples casos en los que los agentes inteligentes adoptan tácticas imprevistas para resolver tareas complejas, tales como el uso de estrategias de elusión cuando detectan bloqueos en sus evaluaciones. Organismos de análisis y colectivos de ingenieros exigen mayores cautelas a medida que el software adquiere mayores cuotas de autonomía y conectividad a las redes informáticas globales.
