Para los desarrolladores que buscan mejorar su productividad sin depender de herramientas como GitHub Copilot, existe una alternativa atractiva: configurar la finalización de código con modelos de lenguaje grandes (LLM) locales directamente en Visual Studio Code (VS Code).
Más allá del Chat: Finalización de Código Local con LLM en VS Code
La posibilidad de ejecutar LLM localmente ofrece ventajas significativas en términos de privacidad, control y personalización. En lugar de enviar tu código a servidores externos, el procesamiento se realiza en tu propia máquina, lo que puede ser crucial para proyectos sensibles o con requisitos de cumplimiento específicos.
La configuración implica varios pasos, comenzando con la elección de un LLM adecuado. Modelos como Llama 2, disponibles a través de plataformas como Hugging Face, son opciones populares. Una vez seleccionado el modelo, es necesario instalar las herramientas necesarias, como ollama, que simplifica la descarga y ejecución de LLM.
ollama actúa como una interfaz para interactuar con el LLM. Después de instalarlo, puedes descargar el modelo deseado utilizando un comando simple. Por ejemplo, para descargar Llama 2, se utiliza el comando ollama pull llama2.
El siguiente paso es configurar VS Code para comunicarse con ollama. Esto se logra instalando una extensión de VS Code diseñada para integrar LLM locales. La extensión Continue.dev es una opción destacada, ya que proporciona una interfaz intuitiva y soporte para varios LLM.
Una vez instalada la extensión, debes configurarla para que apunte a tu instancia de ollama. Esto generalmente implica especificar la URL de la API de ollama (normalmente http://localhost:11434) en la configuración de la extensión.
Con la configuración completa, VS Code podrá utilizar el LLM local para proporcionar sugerencias de código a medida que escribes. La extensión Continue.dev ofrece características adicionales, como la capacidad de generar código a partir de comentarios y la corrección automática de errores.
Este enfoque permite a los desarrolladores aprovechar el poder de los LLM sin comprometer la privacidad o la seguridad de su código. Además, al ejecutar el LLM localmente, se elimina la dependencia de una conexión a Internet y se reduce la latencia, lo que puede mejorar significativamente la experiencia de desarrollo.
