Herramienta Linux duplica el rendimiento en IA de tarjetas GeForce RTX

Una herramienta de código abierto para Linux permite desbloquear un rendimiento de cómputo en IA significativamente mayor en tarjetas gráficas GeForce RTX de generaciones pasadas, elevando de forma notable la velocidad en operaciones de precisión mixta sin necesidad de modificar el hardware ni flashear la VBIOS.

Propietarios de tarjetas gráficas de las familias Ampere y Ada Lovelace disponen ahora de una vía para exprimir potencia hasta ahora limitada por restricciones de software. Un proyecto desarrollado en GitHub por el usuario Zagitta, denominado gpu-unlock, modifica registros de velocidad a nivel de bajo nivel antes de que el controlador propietario de NVIDIA cargue en el sistema operativo.

Rendimiento desatado en tarjetas GeForce RTX 30 y RTX 40

El núcleo de la modificación radica en eliminar el cuello de botella que limita artificialmente la tasa de emisión de instrucciones para operaciones en formatos FP16 y BF16 con acumulación en FP32. En las tarjetas gráficas de consumo, estas capacidades operan habitualmente a la mitad de velocidad que en las contrapartidas profesionales orientadas a centros de datos. Al ajustar los selectores de velocidad mediante un módulo del kernel de Linux que se ejecuta desde el initramfs, las tarjetas alcanzan umbrales de rendimiento inéditos para entornos domésticos de inteligencia artificial.

Los datos publicados en los repositorios y recopilaciones de la comunidad reflejan incrementos drásticos en pruebas de multiplicación de matrices densas. Una GPU RTX 3090 Ti sujeta a un límite de potencia de 450 W eleva su rendimiento en formato BF16 desde los 87.5 TFLOPS hasta los 157.41 TFLOPS, lo que representa un salto de aproximadamente el 80%. Por su parte, la arquitectura Ada Lovelace también cuenta con desarrollos paralelos como el proyecto GPU Unlock Ada, el cual permite que modelos como la RTX 4090 dupliquen su tasa de procesamiento de tensor en FP16 al pasar de 165.6 TFLOPS a 331.6 TFLOPS, según detalla la información recopilada por TechPowerUp.

leer más  Ciberataque UNC6692: Usan Teams y phishing para instalar malware falso

Impacto real en generación de imágenes y modelos de lenguaje

La ganancia en benchmarks sintéticos se traduce en mejoras prácticas para quienes ejecutan cargas de trabajo de IA local. Pruebas de generación de imágenes mediante ComfyUI muestran reducciones drásticas en los tiempos de espera. Con una RTX 3090 Ti, el procesamiento de modelos de difusión para el modelo MOSS-Image SFT disminuyó de 71.98 segundos a 45.40 segundos, mientras que la generación de vídeo y audio con MiniMax H3 recortó su tiempo de 253.27 segundos a 158.05 segundos.

RTX 3090 GPU Unlock Lifts BF16 to 129.6 TFLOPS
Foto: shattered.io

No obstante, el comportamiento de las herramientas varía según la tarea y la arquitectura específica de memoria. En motores de inferencia como vLLM, las velocidades de procesamiento de contexto largo registran aceleraciones de entre el 33% y el 36%, acompañadas de una reducción en la latencia de primera ficha. En contraste, la generación de fichas posterior se mantiene prácticamente invariable debido a que el cuello de botella principal en esa fase sigue determinado por el ancho de banda de la memoria VRAM y no por la capacidad bruta de los núcleos tensoriales, tal como recogen los análisis difundidos por Wccftech.

Contexto de mercado y alternativas frente al coste de alquiler en la nube

La popularidad de estas modificaciones coincide con un encarecimiento sostenido en los servicios de alquiler de infraestructura para IA. En este escenario, entusiastas e investigadores independientes encuentran en tarjetas de anterior generación como la RTX 3090 con 24 GB de memoria una alternativa económica para entrenar y ejecutar inferencias locales sin incurrir en los elevados precios de los entornos de nube.

leer más  Apple nombra a Ben Borders Director Principal de Contabilidad
RTX 3090 Free Unlock: BF16 Hits 129.6 TFLOPS
Foto: tech-insider.org

Las restricciones del sistema de desbloqueo exigen prudencia. Los desarrolladores y medios especializados advierten que el procedimiento carece de soporte oficial por parte de NVIDIA y anula la garantía del hardware. Asimismo, los beneficios se limitan al ámbito computacional: ninguna de las pruebas realizadas hasta la fecha ha demostrado un incremento en las tasas de fotogramas por segundo ni mejoras en el rendimiento de los videojuegos que emplean la tecnología DLSS.

Zswap: mejorar el rendimiento de un sistema Linux con pocos recursos

Más sobre esto