Home TecnologíaCloudflare acelera sandboxing de IA 100x

Cloudflare acelera sandboxing de IA 100x

by Editor de Tecnologia

Cloudflare ha anunciado la introducción de Dynamic Workers, una nueva solución para el “sandboxing” de agentes de inteligencia artificial (IA) que promete ser hasta 100 veces más rápida que los contenedores tradicionales. Esta innovación permite tiempos de inicio en el orden de los milisegundos, un avance significativo para la ejecución segura de código generado por IA.

El “sandboxing” es crucial para la seguridad al ejecutar código generado dinámicamente por agentes de IA. Evita que código malicioso inyectado a través de prompts comprometa la aplicación o el sistema. Si bien los contenedores Linux son una opción común, Cloudflare argumenta que son lentos y costosos, requiriendo tiempos de arranque de cientos de milisegundos y un consumo de memoria considerable.

Dynamic Workers se presenta como una alternativa más ligera, diseñada para escalar a un nivel donde cada usuario pueda tener múltiples agentes escribiendo y ejecutando código constantemente. Esta nueva tecnología se basa en un enfoque de “Code Mode”, donde los modelos de lenguaje grande (LLM) generan código (por ejemplo, en TypeScript) para interactuar con APIs, lo que puede reducir el uso de tokens hasta en un 81% según Cloudflare.

La compañía ha estado desarrollando este enfoque durante meses, posicionándose para convertir el “sandboxing” en una capa estratégica dentro del ecosistema de la IA. Dynamic Workers, actualmente en beta abierta, busca ofrecer una solución más eficiente y segura para la ejecución de código generado por IA a gran escala.

Cloudflare destaca que Dynamic Workers pueden ejecutarse en la misma máquina e incluso en el mismo hilo que la solicitud que lo creó, lo que subraya su eficiencia y ligereza en comparación con los contenedores y micro-VMs.

leer más  Moda 2024: El Regreso a la Calma y el Estilo Conservador

You may also like

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.