El chip insignia ejecuta localmente un modelo MoE de 30B
La característica principal del nuevo silicio insignia de Qualcomm es su capacidad para ejecutar un modelo de mezcla de expertos de 30 mil millones de parámetros directamente en el teléfono. Las arquitecturas de mezcla de expertos activan solo un subconjunto de parámetros para cada entrada, lo que las hace más eficientes que los modelos densos de tamaño similar. Ejecutar dicho modelo localmente significa tiempos de respuesta más rápidos, mejor privacidad ya que los datos nunca salen del dispositivo, y una dependencia reducida de la conectividad de red. Qualcomm aún no ha revelado especificaciones detalladas ni resultados de benchmarks del chip.
Dos chips, una estrategia de IA
Aunque Qualcomm aún no ha nombrado los dos chips, el doble lanzamiento señala un claro impulso para democratizar la IA avanzada en diferentes gamas de smartphones. El énfasis en la IA sugiere que ambos procesadores están diseñados para acelerar cargas de trabajo de IA generativa, desde traducción en tiempo real hasta generación de imágenes y asistentes inteligentes. Este movimiento se alinea con una tendencia más amplia de trasladar el procesamiento de IA desde los centros de datos hacia los dispositivos periféricos.
Qué significa para el mercado de smartphones
La IA en el dispositivo se ha convertido en un campo de batalla clave para los fabricantes de chips. Al permitir que un modelo MoE de 30 mil millones de parámetros funcione localmente, Qualcomm busca dar a los fabricantes de smartphones una razón convincente para adoptar sus últimas plataformas. Esto podría conducir a funciones de IA más receptivas, menor latencia y mayor privacidad para el usuario. Los competidores también compiten por ofrecer capacidades similares, lo que convierte este lanzamiento en un movimiento estratégico para mantener el liderazgo de Qualcomm en procesadores móviles. El precio, la disponibilidad y los dispositivos específicos que utilizarán los chips siguen sin revelarse.
Los nuevos chips de Qualcomm representan un paso notable hacia hacer de la IA potente una característica estándar de los smartphones cotidianos. A medida que la compañía revele más detalles, la industria observará de cerca cómo se desempeñan estos procesadores en escenarios del mundo real y si realmente pueden cumplir la promesa de una IA local con alto número de parámetros.
Comentarios
No hay comentarios todavía.