NPU de portátil y modelos locales: por qué los TOPS no bastan para comparar chips

Una NPU —unidad de procesamiento neuronal— es un acelerador especializado en operaciones habituales de redes neuronales. En un portátil puede ocuparse de tareas compatibles de voz, imagen o inferencia, mientras la CPU y la GPU atienden otros trabajos. Su utilidad depende de que el programa pueda usarla y de que el modelo y sus operaciones estén soportados.

En las fichas técnicas suele destacar el valor en TOPS, es decir, el rendimiento teórico máximo expresado en billones de operaciones por segundo. Es un dato útil para describir capacidad de cómputo bajo condiciones concretas, pero no equivale a tokens por segundo ni informa por sí solo del tamaño de modelo que cabe en el equipo. También importan la precisión numérica, el ancho de banda y la memoria disponible.

La comparación práctica no es simplemente «más TOPS, mejor portátil». Un mismo ordenador reúne CPU, GPU y NPU, pero las aplicaciones no distribuyen automáticamente todas las cargas entre los tres bloques. La compatibilidad del runtime, los controladores y las operaciones concretas del modelo puede decidir si el acelerador especializado participa o si el trabajo recae en la CPU o la GPU.

Las plataformas aquí comparadas pertenecen a generaciones y familias distintas; no conviene tratarlas como productos equivalentes ni como una clasificación de portátiles completos. Qualcomm publica para Snapdragon X Elite una NPU Hexagon de hasta 45 TOPS, mientras Intel Core Ultra Series 2, conocida como Lunar Lake, figura con una NPU de hasta 48 TOPS en sus configuraciones correspondientes.

AMD Ryzen AI 300 incorpora la arquitectura XDNA 2 y la cobertura técnica de TechInsights cifra su NPU en 50 TOPS. Esa cifra describe la capacidad anunciada para la familia y no garantiza que cada portátil entregue el mismo rendimiento sostenido: el diseño térmico, la memoria, la versión específica del procesador y el software también influyen.

Las cifras no constituyen una prueba comparativa bajo una misma carga, precisión y configuración. No permiten declarar un ganador general ni deducir autonomía, temperatura o velocidad de generación de texto. Para tomar una decisión de compra, hay que identificar primero el modelo exacto de portátil y comprobar su memoria, refrigeración y compatibilidad de software.

Los parámetros de un modelo no se convierten directamente en una cantidad única de RAM. El espacio necesario depende, entre otros factores, de la precisión o cuantización de los pesos, del contexto que se procesa, de la memoria temporal y de lo que consumen el sistema operativo y otras aplicaciones. Por eso, decir que un modelo «cabe» solo por su número de parámetros puede ser engañoso.

La memoria del sistema también puede ser compartida por CPU, GPU y otros componentes; además, cada portátil ofrece una configuración concreta que puede no ampliarse. Intel Lunar Lake integra memoria LPDDR5X en el paquete del procesador en configuraciones de 16 o 32 GB según las especificaciones resumidas por MirrorFrog. Esa información no debe generalizarse a todos los Core Ultra ni a todos los portátiles Intel.

En Snapdragon X Elite, Qualcomm presenta una plataforma con soporte de memoria LPDDR5X, pero la configuración final y la cantidad instalada dependen del fabricante del equipo. En cualquier compra, comprueba la RAM del modelo exacto, si es ampliable y cuánto deja disponible el sistema. Si se busca experimentar con modelos locales, la capacidad total y el margen libre suelen ser más útiles para evaluar viabilidad que comparar únicamente el TOPS de la NPU.

Que un portátil tenga NPU no significa que cualquier herramienta de IA la utilice. El programa debe contar con un camino de ejecución compatible con el hardware, el sistema operativo y el modelo. La documentación de Qualcomm describe el Snapdragon X Elite como una plataforma para Windows con capacidades de IA; esa descripción no implica que todo programa de inferencia de terceros se ejecute en Hexagon sin cambios o configuración.

En la práctica, hay que distinguir entre una función de Windows o de una aplicación que delega una tarea en la NPU y un flujo de trabajo de modelos locales que se ejecuta por CPU o GPU. El soporte puede cambiar con las versiones de los controladores y del runtime. Busca compatibilidad explícita con el modelo de portátil y la aplicación, no solo referencias generales a «IA» en la ficha de producto.

La arquitectura también puede afectar a aplicaciones y periféricos. Snapdragon X Elite usa una plataforma basada en Arm; para un programa concreto, importa comprobar si existe versión nativa compatible o si depende de traducción, y si sus controladores funcionan en esa edición de Windows. La NPU no resuelve por sí sola una incompatibilidad de aplicación, ni asegura que una carga se distribuya entre aceleradores.

Una ficha técnica sí ayuda a descartar algunos equipos o a confirmar que una familia incorpora la clase de acelerador buscada. No basta, sin embargo, para estimar de forma fiable cuántos tokens por segundo producirá un modelo, si una tarea concreta se ejecutará en la NPU o cuánto durará la batería con esa carga. La especificación es un filtro, no una medición de experiencia real.

Si la prioridad son funciones integradas del sistema o de aplicaciones compatibles, compara el soporte de software y los requisitos del programa junto con la NPU. Si la prioridad es ejecutar un modelo local específico, busca una prueba independiente de ese modelo y esa configuración, con tamaño, cuantización, contexto y acelerador identificados. Las cifras de rendimiento facilitadas por el fabricante deben leerse como declaraciones del fabricante, no como resultados universales.

Antes de pagar un sobreprecio por una etiqueta de «AI PC», conviene confirmar:

• El procesador y la variante exactos del portátil, no solo la familia comercial.
• La cantidad de RAM instalada, su posibilidad de ampliación y el espacio que deja para el modelo.
• Qué acelerador usa realmente el software que interesa: NPU, GPU o CPU.
• La compatibilidad con el sistema operativo, el modelo y el runtime requeridos.
• Si las pruebas de rendimiento disponibles corresponden al mismo tipo de carga y a una configuración comparable.

Snapdragon X Elite, Intel Core Ultra Series 2 y AMD Ryzen AI 300 permiten comparar capacidades declaradas de NPU: 45, hasta 48 y 50 TOPS, respectivamente, según las referencias citadas. La diferencia numérica no resuelve por sí sola la compra. No indica qué portátil ejecutará mejor una aplicación concreta ni cuánta memoria quedará libre para un modelo local.

Para productividad con funciones de IA compatibles, la integración del software y el soporte del equipo pueden pesar más que una pequeña diferencia entre cifras máximas. Para inferencia local, hay que mirar la configuración completa: memoria, aplicación, compatibilidad de aceleración y pruebas del modelo objetivo. La autonomía y el coste tampoco se pueden deducir de los TOPS: dependen del portátil concreto y de su precio en el mercado.

La regla útil es sencilla: elige el equipo por la carga que realmente vas a ejecutar. Trata los TOPS como una especificación parcial, confirma la memoria del modelo exacto y busca resultados reproducibles para el software que usarás. Así se evita confundir un acelerador presente en el chip con una garantía de que cualquier IA local funcionará rápido o de forma eficiente.