NPU portable et modèles locaux : pourquoi les TOPS ne suffisent pas à comparer les puces

Une NPU — unité de traitement neuronal — est un accélérateur spécialisé dans les opérations courantes des réseaux de neurones. Dans un portable, elle peut gérer des tâches compatibles de voix, d'image ou d'inférence, tandis que le CPU et le GPU s'occupent d'autres travaux. Son utilité dépend de la capacité du programme à l'utiliser et du fait que le modèle et ses opérations soient pris en charge.

Les fiches techniques mettent souvent en avant la valeur en TOPS, c'est-à-dire le débit théorique maximal, exprimé en billions d'opérations par seconde. Ce chiffre n'équivaut pas aux jetons par seconde et n'indique pas, à lui seul, la taille du modèle qui tient dans l'équipement. La précision numérique, la bande passante et la mémoire disponible comptent aussi.

La comparaison pratique n'est pas simplement « plus de TOPS, meilleur portable ». Un même ordinateur réunit CPU, GPU et NPU, mais les applications ne distribuent pas automatiquement toutes les charges entre les trois blocs. La compatibilité du runtime, des pilotes et des opérations concrètes du modèle peut décider si l'accélérateur spécialisé participe ou si le travail retombe sur le CPU ou le GPU.

Les plateformes comparées ici appartiennent à des générations et familles distinctes ; il ne convient pas de les traiter comme des produits équivalents ni comme un classement de portables complets. Qualcomm publie pour Snapdragon X Elite une NPU Hexagon de jusqu'à 45 TOPS, tandis qu'Intel Core Ultra Series 2, connue sous le nom de Lunar Lake, figure avec une NPU de jusqu'à 48 TOPS dans ses configurations correspondantes.

AMD Ryzen AI 300 incorpore l'architecture XDNA 2 et la couverture technique de TechInsights chiffre sa NPU à 50 TOPS. Ce chiffre décrit la capacité annoncée pour la famille et ne garantit pas que chaque portable délivre la même performance soutenue : la conception thermique, la mémoire, la version spécifique du processeur et le logiciel influent aussi.

Ces chiffres ne constituent pas une preuve comparative sous une même charge, précision et configuration. Ils ne permettent pas de déclarer un vainqueur général ni de déduire l'autonomie, la température ou la vitesse de génération de texte. Pour prendre une décision d'achat, il faut d'abord identifier le modèle exact de portable et vérifier sa mémoire, sa refroidissement et sa compatibilité logicielle.

Les paramètres d'un modèle ne se convertissent pas directement en une quantité unique de RAM. L'espace nécessaire dépend, entre autres facteurs, de la précision ou quantification des poids, du contexte traité, de la mémoire temporaire et de ce que consomment le système d'exploitation et d'autres applications. Dire qu'un modèle « tient » uniquement par son nombre de paramètres peut donc être trompeur.

La mémoire du système peut aussi être partagée par le CPU, le GPU et d'autres composants ; de plus, chaque portable offre une configuration concrète qui peut ne pas être extensible. Intel Lunar Lake intègre une mémoire LPDDR5X dans le package du processeur en configurations de 16 ou 32 Go selon les spécifications résumées par MirrorFrog. Cette information ne doit pas être généralisée à tous les Core Ultra ni à tous les portables Intel.

Sur Snapdragon X Elite, Qualcomm présente une plateforme avec support de mémoire LPDDR5X, mais la configuration finale et la quantité installée dépendent du fabricant de l'équipement. Dans tout achat, vérifiez la RAM du modèle exact, si elle est extensible et combien l'espace laisse disponible le système. Si l'on cherche à expérimenter avec des modèles locaux, la capacité totale et la marge libre sont souvent plus utiles pour évaluer la viabilité que de comparer uniquement les TOPS de la NPU.

Qu'un portable ait une NPU ne signifie pas que n'importe quel outil d'IA l'utilise. Le programme doit compter avec un chemin d'exécution compatible avec le matériel, le système d'exploitation et le modèle. La documentation de Qualcomm décrit Snapdragon X Elite comme une plateforme pour Windows avec des capacités d'IA ; cette description n'implique pas que tout programme d'inférence tiers s'exécute sur Hexagon sans changements ou configuration.

En pratique, il faut distinguer entre une fonction de Windows ou d'une application qui délègue une tâche à la NPU et un flux de travail de modèles locaux qui s'exécute par CPU ou GPU. Le support peut changer avec les versions des pilotes et du runtime. Cherchez une compatibilité explicite avec le modèle de portable et l'application, pas seulement des références générales à « l'IA » dans la fiche produit.

L'architecture peut aussi affecter les applications et périphériques. Snapdragon X Elite utilise une plateforme basée sur Arm ; pour un programme concret, il importe de vérifier s'il existe une version native compatible ou s'il dépend de la traduction, et si ses pilotes fonctionnent dans cette édition de Windows. La NPU ne résout pas à elle seule une incompatibilité d'application, ni n'assure qu'une charge se distribue entre accélérateurs.

Une fiche technique aide bien à écarter certains équipements ou à confirmer qu'une famille incorpore la classe d'accélérateur recherchée. Elle ne suffit pas, cependant, pour estimer de manière fiable combien de jetons par seconde produira un modèle, si une tâche concrète s'exécutera sur la NPU ou combien durera la batterie avec cette charge. La spécification est un filtre, pas une mesure d'expérience réelle.

Si la priorité est les fonctions intégrées du système ou d'applications compatibles, comparez le support logiciel et les exigences du programme avec la NPU. Si la priorité est d'exécuter un modèle local spécifique, cherchez un test indépendant de ce modèle et cette configuration, avec taille, quantification, contexte et accélérateur identifiés. Les chiffres de performance fournis par le fabricant doivent être lus comme des déclarations du fabricant, pas comme des résultats universels.

Avant de payer un supplément pour une étiquette « AI PC », il convient de confirmer :

• Le processeur et la variante exacts du portable, pas seulement la famille commerciale.
• La quantité de RAM installée, sa possibilité d'extension et l'espace qu'elle laisse pour le modèle.
• Quel accélérateur utilise réellement le logiciel d'intérêt : NPU, GPU ou CPU.
• La compatibilité avec le système d'exploitation, le modèle et le runtime requis.
• Si les tests de performance disponibles correspondent au même type de charge et à une configuration comparable.

Snapdragon X Elite, Intel Core Ultra Series 2 et AMD Ryzen AI 300 permettent de comparer les capacités déclarées de NPU : 45, jusqu'à 48 et 50 TOPS, respectivement, selon les références citées. La différence numérique ne résout pas à elle seule l'achat. Elle n'indique pas quel portable exécutera mieux une application concrète ni combien de mémoire restera libre pour un modèle local.

Pour la productivité avec des fonctions d'IA compatibles, l'intégration du logiciel et le support de l'équipement peuvent peser plus qu'une petite différence entre chiffres maximaux. Pour l'inférence locale, il faut regarder la configuration complète : mémoire, application, compatibilité d'accélération et tests du modèle cible. L'autonomie et le coût ne peuvent pas non plus être déduits des TOPS : ils dépendent du portable concret et de son prix sur le marché.

La règle utile est simple : choisissez l'équipement selon la charge que vous allez réellement exécuter. Traitez les TOPS comme une spécification partielle, confirmez la mémoire du modèle exact et cherchez des résultats reproductibles pour le logiciel que vous utiliserez. Ainsi, on évite de confondre un accélérateur présent dans la puce avec une garantie que n'importe quelle IA locale fonctionnera vite ou efficacement.