Qu’est-ce qu’un CPU doté de NPU (Neural Processing Units) ?

Les processeurs modernes reposent désormais sur des architectures de plus en plus hétérogènes. Là où le CPU assurait autrefois l’ensemble des calculs, il est aujourd’hui accompagné de plusieurs unités spécialisées, chacune optimisée pour un type de tâche précis. Cette évolution répond à des usages allant du traitement graphique au multimédia (iGPU) en passant par des charges de calcul pour IA (NPU). Dans ce contexte, l’intégration d’un NPU au sein du processeur s’inscrit comme une extension logique de cette spécialisation matérielle.

Un CPU doté de NPU combine ainsi des cœurs de calcul généralistes avec une unité dédiée aux traitements d’intelligence artificielle orientée vers l’exécution locale de modèles. Le NPU ne remplace ni le CPU ni le GPU, mais intervient en complément pour des opérations ciblées, conçues pour être exécutées efficacement et avec une consommation maîtrisée.

Définition d’un NPU, fonctionnement et périmètre d’usage

Un NPU (Neural Processing Unit) est une unité de calcul spécialisée conçue pour exécuter des traitements liés à l’intelligence artificielle. Contrairement aux cœurs CPU généralistes, il est optimisé pour des opérations mathématiques répétitives utilisées par les réseaux de neurones et les calculs matriciels. Son rôle principal est d’accélérer ces traitements tout en limitant la consommation énergétique.

Dans la pratique, un NPU est principalement utilisé pour l’inférence, c’est-à-dire l’exécution d’un modèle d’intelligence artificielle déjà entraîné. Il intervient dans des tâches comme la reconnaissance d’images, le traitement audio, l’amélioration vidéo ou certaines fonctions d’assistance intégrées au système. Le NPU agit en complément du CPU et du GPU, chacun conservant son domaine de prédilection.

Il est important de noter que NPU n’a pas vocation à remplacer un GPU pour les charges lourdes, ni à assurer l’entraînement de modèles complexes à grande échelle. Son périmètre reste volontairement ciblé sur des traitements IA exécutés localement avec un objectif de rendement et d’efficacité avant tout.

Découvrez aussi ce qu’est un iGPU pour utiliser un ordinateur sans carte graphique.

Le NPU comme extension du processeur (CPU)

Le NPU s’inscrit dans la continuité de l’évolution des processeurs qui reposent de plus en plus sur une architecture composée de plusieurs unités spécialisées. Il ne constitue pas un nouveau type de CPU, car il ne remplace pas les cœurs de calcul généralistes et ne modifie pas leur rôle fondamental. Le processeur reste chargé de l’exécution des tâches générales, de la logique applicative et de l’orchestration du système, tandis que le NPU intervient uniquement pour des traitements liés à l’intelligence artificielle.

Sur le plan matériel, le NPU est intégré directement au sein du même ensemble que le CPU. Ces différentes unités partagent certaines ressources comme l’accès à la mémoire et aux bus internes, tout en disposant de chemins d’exécution distincts. Cette intégration permet une communication rapide entre les blocs de calcul et une répartition efficace des charges, chaque unité étant sollicitée selon le type de tâche à traiter.

L’impact du NPU sur les performances globales ne se traduit pas par une augmentation brute de la puissance du processeur, mais par une meilleure efficacité dans des scénarios précis liés à l’IA. En déléguant les traitements d’intelligence artificielle à une unité dédiée, le CPU et le GPU sont moins sollicités, ce qui améliore la réactivité globale du système. Sur les appareils mobiles et les ordinateurs portables, cette spécialisation contribue également à une consommation énergétique plus maîtrisée avec un effet direct sur l’autonomie lors de l’exécution de tâches IA en continu.

TOPS : un indicateur théorique des performances IA

Le terme TOPS (trillion operations per second) désigne la capacité théorique d’un accélérateur à traiter un très grand nombre d’opérations en une seconde. Dans le cas des NPU, cet indicateur sert avant tout à quantifier le débit maximal sur des calculs simples et répétitifs, typiques des réseaux de neurones. Les valeurs mises en avant correspondent à des opérations en précision réduite, comme l’INT8, largement utilisée pour l’inférence. Cette précision plus faible permet d’exécuter davantage d’opérations par cycle, tout en conservant un niveau de qualité suffisant pour de nombreux usages IA courants.

Les chiffres de TOPS sont donc étroitement liés aux modèles quantifiés (optimisés). Les modèles destinés à être exécutés sur un NPU sont optimisés pour fonctionner avec des poids compressés et une précision réduite, ce qui limite la consommation et améliore le rendement. Le TOPS reflète ainsi une capacité maximale dans le cadre de l’inférence optimisée (quantifié) et ne constitue pas une mesure générale des performances sur l’ensemble des charges IA possibles.

INT8 : La quantification la plus courante pour mesurer le TOPS

La référence utilisée par les fabricants est presque toujours l’INT8, c’est à dire des calculs sur des entiers codés sur 8 bits. Ce format représente aujourd’hui le meilleur compromis entre débit de calcul, consommation et précision pour l’inférence. Il permet de réduire fortement la taille des modèles et d’exécuter beaucoup plus d’opérations par cycle qu’en précision flottante, tout en conservant une qualité suffisante pour la majorité des usages grand public.

Dans certains cas, les chiffres de TOPS peuvent aussi inclure des calculs en INT4 ou en formats hybrides proches, mais cela reste moins systématique et moins documenté. À l’inverse, les calculs en FP16 ou FP32 sont rarement utilisés pour communiquer les TOPS des NPU, car ils produisent des chiffres nettement plus bas et correspondent davantage aux GPU ou aux charges d’entraînement.

C’est pour cette raison que les valeurs de TOPS ne sont pas toujours comparables d’un processeur à l’autre. Elles varient selon la précision retenue, les types d’opérations comptabilisées et les conditions exactes de mesure. Deux NPU affichant un niveau similaire de TOPS peuvent offrir des résultats très différents selon les modèles exécutés et le support logiciel. Utilisé seul, le TOPS est donc un indicateur partiel pour situer une plateforme, mais insuffisant pour juger de l’efficacité réelle d’un NPU dans des usages avancés.

Pourquoi les charges IA nécessitent une unité dédiée ?

Les charges de travail liées à l’intelligence artificielle reposent sur des calculs majoritairement composés d’opérations mathématiques répétitives comme les multiplications de matrices et les additions vectorielles utilisées par les réseaux de neurones. Contrairement aux applications classiques, ces calculs suivent des schémas prévisibles et fortement parallélisables, mais peu flexibles. Cette nature particulière les rend peu adaptées aux cœurs CPU généralistes, conçus avant tout pour exécuter une grande variété d’instructions et gérer des flux logiques complexes.

Le GPU peut prendre en charge ce type de calcul, mais il est surtout optimisé pour de lourdes charges continues. Lorsqu’il s’agit de petites tâches IA exécutées fréquemment comme des traitements audio, vidéo ou des analyses en arrière-plan, son activation entraîne une hausse rapide de l’utilisation et de la consommation. Sur un ordinateur portable, cela se traduit par une sollicitation disproportionnée des ressources, alors même que la charge IA est limitée.

Spécialisé pour ces calculs précis, le NPU permet d’exécuter des tâches IA localement avec une efficacité bien supérieure. En l’absence de NPU, même des traitements IA modestes peuvent mobiliser fortement le GPU et entraîner une consommation élevée sans réel gain fonctionnel. Le NPU apporte une réponse moins énergivore en absorbant ces charges sur le plan énergétique.