de productos, desde teléfonos inteligentes hasta automóviles.Qualcomm
Qualcomm hizo recientemente varios anuncios importantes sobre IA en el evento Mobile World Congress Barcelona. Cada anuncio respalda el objetivo de Qualcomm de ejecutar la IA a escala en todas partes, incluido el perímetro. Los anuncios incluyeron:
- IA a escala que se ejecuta en una amplia gama de dispositivos perimetrales de próxima generación, incluidos PC, automóviles, teléfonos, dispositivos industriales de IoT, puntos de acceso Wi-Fi e infraestructura celular.
- Qualcomm AI Hub proporciona recursos para desarrolladores, incluidos más de 75 modelos de IA optimizados para Snapdragon y otras plataformas de Qualcomm.
- Los investigadores de Qualcomm desarrollan grandes modelos multimodales y modelos personalizados de gran visión que pueden ejecutarse en teléfonos inteligentes Android y PC con Windows.
Estos avances se basan en el nuevo hardware de Qualcomm. El SoC Snapdragon 8 Gen 3 de la compañía para dispositivos móviles se anunció en el MWC, mientras que el Snapdragon X Elite para PC se anunció previamente hace unos meses. Estos conjuntos de chips habilitan la IA en el dispositivo para varios dispositivos, como el Teléfono inteligente Samsung Galaxy S24lo último iPhone y muchos teléfonos fabricados en China. En los próximos meses, se espera que Qualcomm presente sus SoC para PC con IA equipados con una CPU, una GPU y una NPU capaces de alcanzar velocidades de procesamiento de 45 TOPS.
Qualcomm también hizo anuncios sobre el módem Snapdragon X80 5G impulsado por IA y el chip Wi-Fi 7 de próxima generación FastConnect 7900. Mi colega Anshel Sag ha cubierto esos productos en detalle.
A continuación se ofrece un vistazo más detallado a los anuncios relacionados con la IA.
Centro de IA de Qualcomm
Qualcomm AI Hub proporciona recursos para desarrolladores.
Qualcomm
Los teléfonos, PC y otros dispositivos con capacidad de IA necesitan nuevas aplicaciones para aprovechar al máximo sus capacidades de IA. Qualcomm creó su AI Hub para proporcionar a los desarrolladores los recursos necesarios para crear e implementar aplicaciones de IA en Snapdragon u otras plataformas de Qualcomm. Uno de los habilitadores clave de AI Hub es una biblioteca de modelos de IA cuantificados y optimizados para un alto rendimiento en estas plataformas.
Una cosa que hace atractivo al centro es su simplicidad de uso. Un desarrollador simplemente selecciona el modelo deseado de una selección de más de 75 modelos comunes de IA y de IA generativa, luego elige el marco de referencia, ya sea TensorFlow, PyTorch u Onyx. Los modelos también están disponibles en Hugging Face y GitHub.
Una vez elegido el modelo específico, el desarrollador puede seleccionar la plataforma de destino y el dispositivo. Luego, para la implementación, el desarrollador inserta algunas líneas de código para integrar el modelo optimizado en el flujo de trabajo para aprovechar las capacidades de IA en el dispositivo que se ejecutan en una de las plataformas de Qualcomm.
Características del centro de IA de Qualcomm
Qualcomm
Además de una gran cantidad de capacidades como la generación de imágenes y texto, el centro proporciona una inferencia hasta cuatro veces más rápida en dispositivos con tecnología Snapdragon u otras plataformas Qualcomm.
Los grandes modelos de IA ahora pueden ejecutarse en Android
LMM de Qualcomm para dispositivos Android
Qualcomm
En el evento, Qualcomm demostró con éxito el primer modelo de lenguaje grande y el primer modelo multimodal de gran tamaño del mundo que se ejecuta en un teléfono Android. El LLM de 7 mil millones de parámetros puede aceptar texto, imágenes y voz, lo que permite al usuario tener una conversación de varios turnos con su teléfono mediante múltiples intercambios de ida y vuelta.
Cuando los usuarios hacen preguntas o brindan aportes, LMM AI responde en consecuencia. Las conversaciones de varios turnos requieren que la IA tenga memoria contextual para poder recordar el contexto y un historial completo de la información intercambiada entre el usuario y la IA. LLM de múltiples turnos tiene el poder de manejar preguntas complejas necesarias para aplicaciones interactivas sofisticadas, como el servicio al cliente.
LoRA para teléfonos Android
El uso de LoRA por parte de Qualcomm
Qualcomm
Qualcomm también logró otro hito técnico con su primera adaptación de rango bajo para ejecutarse en un teléfono Android. LoRA fue desarrollado originalmente por Microsoft para reducir la complejidad del entrenamiento de modelos en términos de latencia, costo y requisitos de hardware. LoRA proporciona un enfoque novedoso para generar imágenes y se diferencia de las herramientas de IA generativa como DALL-E. Al reducir la complejidad del modelo, LoRA reduce los requisitos de memoria y aumenta la eficiencia para que las versiones ligeras de los modelos se puedan personalizar y adaptar sin necesidad de descargar o ajustar el modelo completo.
Plataforma Snapdragon X Elite
pruebas de comparaciónQualcomm
Qualcomm construyó el Snapdragon X Elite para ejecutar IA. Su diseño incluye una arquitectura SoC de 4 nm, una CPU Qualcomm Oryon de 12 núcleos con refuerzo de doble núcleo y una GPU Qualcomm Adreno integrada para gráficos. El dispositivo elimina la molestia de la carga frecuente porque una sola carga de batería admite el uso durante varios días. Una de sus ventajas más importantes es que Snapdragon X Elite también es capaz de ejecutar modelos LLM de IA generativa con 13 mil millones de parámetros.
Para demostrar las capacidades del SoC, Qualcomm realizó una comparación de rendimiento entre la PC Snapdragon X Elite y un x86 competitivo equipado con su configuración de GPU, CPU y NPU más eficiente. La comparación utilizó GIMP, un potente editor de gráficos rasterizados de código abierto equipado con un complemento Stable Diffusion para la generación de imágenes GAI. Como lo indica el gráfico, el Snapdragon X Elite con una NPU de 45 TOPS proporcionó una generación de imágenes 3 veces más rápida que el competidor x86.
El papel de Qualcomm en la localización de la IA
Todos los anuncios de IA de Qualcomm en el MWC Barcelona representaron avances importantes. La compañía ha logrado superar las barreras de dispositivos anteriores, desde teléfonos inteligentes hasta PC, para impulsar la inteligencia artificial y la informática. Su SoC Snapdragon 8 Gen 3 para dispositivos móviles y su plataforma de PC Snapdragon X Elite pueden llevar a cabo varias funciones de IA en IA generativa, visión por computadora y procesamiento de lenguaje natural. Y Qualcomm también ha brindado a los desarrolladores capacidades mejoradas de inteligencia artificial.
La capacidad de ejecutar modelos multimodales grandes y versiones livianas de modelos en teléfonos Android abre nuevas capacidades en una amplia gama de dominios. Los usuarios de Android podrán interactuar con asistentes virtuales para aplicaciones como servicios financieros, atención médica y comercio electrónico, por nombrar solo algunas. La IA también aporta una dimensión completamente nueva a los juegos. Los agentes de juegos de IA no solo crean oponentes desafiantes, sino que también pueden generar nuevo contenido de juego o ajustar dinámicamente las reglas y el juego de acuerdo con la experiencia del jugador o su deseo de un desafío mayor. Prácticamente todos los juegos se vuelven más desafiantes y realistas cuando se les aplica IA. Al poder ejecutar modelos complejos de IA de manera eficiente, los teléfonos Android pueden brindar mejores experiencias de usuario y una funcionalidad mejorada a través del procesamiento del lenguaje natural y la visión por computadora.
La democratización total de la IA estará fuertemente influenciada por la comercialización de la IA en dispositivos por parte de Qualcomm a escala en el borde y en otros lugares, un concepto que respalda el objetivo de la industria de tener computación inteligente en todas partes. En conjunto, los anuncios del MWC han posicionado a Qualcomm como un actor clave en el panorama de la IA. Con estas capacidades, debería poder impulsar la adopción de la IA a gran escala.
Moor Insights & Strategy proporciona o ha proporcionado servicios pagos a empresas de tecnología, como todas las empresas de análisis e investigación de la industria tecnológica. Estos servicios incluyen investigación, análisis, asesoramiento, consultoría, evaluación comparativa, emparejamiento de adquisiciones y patrocinio de videos y conferencias. De las empresas mencionadas en este artículo, Moor Insights & Strategy ha tenido o tiene actualmente relaciones comerciales remuneradas con Microsoft, Qualcomm y Samsung.
2024-03-12 23:54:20
1710291683
#dispositivo #Qualcomm #impulsa #productos #futuros #desde #teléfonos #hasta
