Un aspecto clave que se está observando es el de la “rigurosidad” en el desarrollo de software. Existe una creciente conclusión de que la rigurosidad tal como la conocemos podría quedar obsoleta con la proliferación de los Modelos de Lenguaje Extensos (LLMs).
Los ingenieros de software ya no pueden seguir discutiendo sobre agentes de larga duración, flotas de sub-agentes, agentes que se modifican a sí mismos y escriben herramientas en tiempo de ejecución, y al mismo tiempo pretender que todo esto puede ocurrir con una verificación rigurosa inicial a través de la integración continua y las pruebas. La naturaleza dinámica y no determinista de estos sistemas lo impide.
Se plantea la necesidad de adoptar la idea de implementar sistemas de forma más ágil, casi “a la aventura”, sin la intervención humana constante en la producción. Esto implica una redefinición de la rigurosidad, trasladando gran parte de la verificación del software a entornos de pruebas prolongados, denominados “sandboxes” y “canarios”. La evaluación se centrará en si el agente está cumpliendo con lo solicitado, si se están alcanzando los objetivos y si se están violando las invariantes del sistema. Una vez superadas estas pruebas, se procederá a la implementación en producción, actuando con firmeza: si algo sale mal, el proceso se aborta y se reinicia.
