Agentes IA: Oportunidad para Startups y Eficiencia Empresarial

Durante 24 años, Amanda Silver de Microsoft ha trabajado para ayudar a los desarrolladores, y en los últimos años, eso ha significado crear herramientas para la inteligencia artificial. Tras un largo período en GitHub Copilot, Silver es ahora vicepresidenta corporativa de la división CoreAI de Microsoft, donde trabaja en herramientas para implementar aplicaciones y sistemas basados en agentes dentro de las empresas.

Su trabajo se centra en el sistema Foundry dentro de Azure, diseñado como un portal de IA unificado para empresas, lo que le brinda una visión cercana de cómo las compañías están utilizando realmente estos sistemas y dónde se producen los fallos en las implementaciones.

Hablamos con Silver sobre las capacidades actuales de los agentes empresariales y por qué cree que esta es la mayor oportunidad para las startups desde la nube pública.

Esta entrevista ha sido editada para mayor brevedad y claridad.

Su trabajo se centra en productos de Microsoft para desarrolladores externos, a menudo startups que no están enfocadas en la IA. ¿Cómo ve el impacto de la IA en estas empresas?

Considero que este es un momento crucial para las startups, tan profundo como el cambio a la nube pública. Si lo pensamos, la nube tuvo un gran impacto en las startups porque significó que ya no necesitaban espacio físico para alojar sus servidores, ni invertir tanto capital en la adquisición de hardware para sus laboratorios. Todo se volvió más económico. Ahora, la IA basada en agentes continuará reduciendo los costos operativos del software, ya que muchas de las tareas involucradas en el lanzamiento de una nueva empresa, ya sea personal de soporte, investigaciones legales, etc., se pueden realizar de forma más rápida y económica con agentes de IA. Creo que esto conducirá a más empresas y startups, y también veremos startups con valoraciones más altas y menos personal a cargo. Es un mundo emocionante.

¿Cómo se ve esto en la práctica?

Estamos viendo que los agentes de múltiples pasos se utilizan ampliamente en todo tipo de tareas de codificación. Por ejemplo, una de las tareas que los desarrolladores deben realizar para mantener una base de código es mantenerse al día con las últimas versiones de las bibliotecas de las que depende. Podría tener una dependencia de una versión anterior de .NET runtime o del Java SDK. Y podemos utilizar estos sistemas basados en agentes para analizar toda su base de código y actualizarla más fácilmente, con una posible reducción del 70% o 80% del tiempo que lleva hacerlo. Y realmente se necesita un agente de múltiples pasos implementado para lograrlo.

Las operaciones en vivo también son un ejemplo. Si pensamos en el mantenimiento de un sitio web o un servicio y algo sale mal, ocurre un problema inesperado y alguien debe estar de guardia para responder al incidente. Todavía tenemos personas de guardia las 24 horas del día, los 7 días de la semana, en caso de que el servicio se caiga. Pero solía ser un trabajo muy desagradable porque te despertaban con frecuencia por incidentes menores. Ahora hemos construido un sistema genético para diagnosticar y, en muchos casos, mitigar completamente los problemas que surgen en estas operaciones en vivo, para que los humanos no tengan que despertarse en medio de la noche y, aturdidos, ir a sus terminales para intentar diagnosticar lo que está sucediendo. Y esto también nos ayuda a reducir drásticamente el tiempo promedio que lleva resolver un incidente.

Uno de los enigmas del momento actual es que las implementaciones de agentes no han ocurrido tan rápido como esperábamos, incluso hace seis meses. ¿Por qué cree que es así?

Si pensamos en las personas que están construyendo agentes, lo que les impide tener éxito, en muchos casos, se reduce a no saber realmente cuál debería ser el propósito del agente. Existe un cambio cultural que debe ocurrir en la forma en que las personas construyen estos sistemas. ¿Cuál es el caso de negocio que están tratando de resolver? ¿Qué están tratando de lograr? Debe tener una visión clara de cuál es la definición de éxito para este agente. Y debe pensar en qué datos le está proporcionando al agente para que pueda razonar sobre cómo lograr esta tarea en particular.

Vemos que estos son los mayores obstáculos, más que la incertidumbre general sobre la implementación de agentes. Cualquiera que analice estos sistemas ve el retorno de la inversión.

Menciona la incertidumbre general, que creo que se siente como un gran obstáculo desde fuera. ¿Por qué lo ve como un problema menor en la práctica?

En primer lugar, creo que será muy común que los sistemas basados en agentes tengan escenarios con intervención humana. Pensemos en algo como una devolución de paquete. Solía ser que tendrías un flujo de trabajo para el procesamiento de la devolución que era 90% automatizado y 10% de intervención humana, donde alguien tenía que mirar el paquete y hacer un juicio sobre el daño antes de decidir si aceptaba la devolución.

Ese es un ejemplo perfecto donde ahora los modelos de visión artificial son tan buenos que, en muchos casos, no necesitamos tanta supervisión humana para inspeccionar el paquete y tomar esa determinación. Todavía habrá algunos casos límite, donde tal vez la visión artificial no sea lo suficientemente buena para tomar una decisión y tal vez haya una escalada. Es como, ¿con qué frecuencia necesita llamar al gerente?

Hay algunas cosas que siempre necesitarán algún tipo de supervisión humana, porque son operaciones tan críticas. Pensemos en la asunción de una obligación legal contractual o en la implementación de código en una base de código de producción que podría afectar la fiabilidad de sus sistemas. Pero incluso entonces, está la cuestión de hasta qué punto podemos automatizar el resto del proceso.