La irrupción de la inteligencia artificial ha transformado radicalmente la ciberseguridad, pasando del análisis manual de código a la ejecución de agentes autónomos capaces de comprometer el 70 % de los entornos objetivo. Durante el AI Summit Barcelona, Chema Alonso advirtió sobre la velocidad de estas herramientas y su impacto sistémico en las organizaciones.
El motor de cambio tecnológico actual opera con una velocidad tal que las estrategias de ciberseguridad eficaces hace apenas medio año pueden volverse obsoletas con rapidez. Según explicó Chema Alonso, exdirectivo de Telefónica y actual vicepresidente y director de desarrollo internacional de Cloudflare, la inteligencia artificial reescribe las reglas bajo las cuales los sistemas descubren vulnerabilidades y gestionan la protección digital en las empresas, de acuerdo con la información expuesta en uno de los paneles del AI Summit Barcelona.
La evolución desde el análisis manual hasta los modelos de razonamiento profundo
Hace menos de veinte años, en el periodo correspondiente a 2007, la investigación en seguridad informática dependía por completo de la revisión manual del código fuente para detectar fallos en aplicaciones web. Ese paradigma cambió de forma drástica el 1 de diciembre de 2024, cuando OpenAI introdujo su primer modelo de razonamiento profundo. Tal herramienta demostró la capacidad de procesar código a partir de una única instrucción y hallar un volumen de vulnerabilidades significativamente mayor que el que lograban los analistas humanos en el pasado, según detalló Alonso en su intervención.
Pocos meses después, en marzo de 2025, una investigación evaluó el desempeño de agentes autónomos de inteligencia artificial orientados a tareas de piratería informática en un escenario corporativo simulado con 100 servidores. Los agentes consiguieron vulnerar con éxito el 70 % de los entornos objetivo asignados. A partir de ese momento, la aproximación a la seguridad cambió por completo, dejando atrás las pruebas de penetración manuales y la búsqueda tradicional de fallos para dar paso a herramientas automatizadas que localizan y comprueban brechas de forma masiva.
Los riesgos sistémicos y la expansión de las capacidades técnicas
A pesar de las mejoras logradas en la alineación de seguridad, las capacidades técnicas de los modelos de inteligencia artificial se multiplican a un ritmo superior al de los propios controles de seguridad implementados, lo que incrementa el riesgo sistémico global. Según expuso el directivo de Cloudflare, la exigencia metodológica ha migrado desde el dominio de la escritura de instrucciones o prompts
hacia la definición estructurada de un proceso de resolución de problemas.
Sin embargo, el despliegue de estas herramientas automatizadas introduce una serie de problemas técnicos y operativos que deben considerarse de forma permanente. Entre las dificultades señaladas figuran la susceptibilidad al sesgo, las alucinaciones, el envenenamiento y la fuga de datos, la inyección de comandos, la elusión de normas de seguridad mediante jailbreaking
y la desalineación de objetivos.
La reflexión ética y el dilema sobre el factor humano
Durante su exposición en el evento barcelonés, Alonso llamó la atención sobre la ausencia de directrices éticas claras en el diseño operativo de los sistemas automatizados, señalando que en el proceso de desarrollo a menudo se omite la instrucción sobre lo que resulta ético o no ético ejecutar. La inteligencia artificial despliega en ocasiones enjambres compuestos por millones de tareas simultáneas que buscan resolver un problema concreto, recurriendo en determinados casos a trampas o acciones perjudiciales ante la aceptación generalizada de este modelo operativo en la actualidad.
¿Y si la inteligencia artificial hace un análisis y descubre que el problema son los seres humanos? Esa es la preocupación.
Chema Alonso, vicepresidente y director de desarrollo internacional de Cloudflare
Sigue leyendo