¿Qué es una CPU equipada con NPU (unidades de procesamiento neuronal)?

La NPU se inscribe en la línea de la evolución de los procesadores, que se basan cada vez más en una arquitectura compuesta por varias unidades especializadas. No constituye un nuevo tipo de CPU, ya que no sustituye a los núcleos de cálculo generalistas ni modifica su función fundamental. El procesador sigue encargándose de la ejecución de las tareas generales, la lógica de las aplicaciones y la coordinación del sistema, mientras que la NPU interviene únicamente en los procesos relacionados con la inteligencia artificial.

Desde el punto de vista del hardware, la NPU está integrada directamente en el mismo conjunto que la CPU. Estas diferentes unidades comparten ciertos recursos, como el acceso a la memoria y a los buses internos, al tiempo que disponen de rutas de ejecución independientes. Esta integración permite una comunicación rápida entre los bloques de cálculo y un reparto eficaz de las cargas, ya que cada unidad se utiliza en función del tipo de tarea que se deba procesar.

El impacto de la NPU en el rendimiento general no se traduce en un aumento bruto de la potencia del procesador, sino en una mayor eficiencia en escenarios concretos relacionados con la IA. Al delegar los procesos de inteligencia artificial a una unidad dedicada, la CPU y la GPU se ven menos sobrecargadas, lo que mejora la capacidad de respuesta general del sistema. En los dispositivos móviles y los ordenadores portátiles, esta especialización también contribuye a un consumo energético más controlado, lo que repercute directamente en la autonomía al ejecutar tareas de IA de forma continua.

TOPS: un indicador teórico del rendimiento de la IA

El término TOPS (trillion operations per second) hace referencia a la capacidad teórica de un acelerador para procesar un número muy elevado de operaciones en un segundo. En el caso de las NPU, este indicador sirve sobre todo para cuantificar el rendimiento máximo en cálculos sencillos y repetitivos, típicos de las redes neuronales. Los valores que se destacan corresponden a operaciones con precisión reducida, como INT8, ampliamente utilizada para la inferencia. Esta menor precisión permite ejecutar más operaciones por ciclo, al tiempo que se mantiene un nivel de calidad suficiente para muchos usos habituales de la IA.

Por lo tanto, las cifras de TOPS están estrechamente relacionadas con los modelos cuantificados (optimizados). Los modelos destinados a ejecutarse en una NPU están optimizados para funcionar con pesos comprimidos y una precisión reducida, lo que limita el consumo y mejora el rendimiento. Así pues, los TOPS reflejan una capacidad máxima en el contexto de la inferencia optimizada (cuantificada) y no constituyen una medida general del rendimiento en todas las cargas de trabajo de IA posibles.

INT8: La medida más habitual para calcular los TOPS

La referencia que utilizan los fabricantes es casi siempre el INT8, es decir, cálculos con números enteros codificados en 8 bits. Este formato representa hoy en día el mejor equilibrio entre rendimiento de cálculo, consumo y precisión para la inferencia. Permite reducir considerablemente el tamaño de los modelos y ejecutar muchas más operaciones por ciclo que con precisión de coma flotante, al tiempo que se mantiene una calidad suficiente para la mayoría de los usos del gran público.

En algunos casos, las cifras de TOPS también pueden incluir cálculos en INT4 o en formatos híbridos similares, aunque esto no suele ser tan habitual ni está tan documentado. Por el contrario, los cálculos en FP16 o FP32 rara vez se utilizan para indicar los TOPS de las NPU, ya que producen cifras notablemente más bajas y se corresponden más con las GPU o con las cargas de entrenamiento.

Por este motivo, los valores de TOPS no siempre son comparables entre unos procesadores y otros. Varían en función de la precisión elegida, los tipos de operaciones contabilizadas y las condiciones exactas de medición. Dos NPU con un nivel similar de TOPS pueden ofrecer resultados muy diferentes en función de los modelos ejecutados y del soporte de software. Por lo tanto, utilizado por sí solo, el TOPS es un indicador parcial para situar una plataforma, pero insuficiente para evaluar la eficacia real de una NPU en usos avanzados.

¿Por qué las cargas de IA requieren una unidad específica?

Las cargas de trabajo relacionadas con la inteligencia artificial se basan en cálculos compuestos principalmente por operaciones matemáticas repetitivas, como las multiplicaciones de matrices y las sumas vectoriales que utilizan las redes neuronales. A diferencia de las aplicaciones clásicas, estos cálculos siguen patrones predecibles y altamente paralelizables, pero poco flexibles. Esta característica particular hace que no sean muy adecuados para los núcleos de CPU de uso general, diseñados principalmente para ejecutar una gran variedad de instrucciones y gestionar flujos lógicos complejos.

La GPU puede encargarse de este tipo de cálculos, pero está optimizada sobre todo para cargas pesadas y continuas. Cuando se trata de pequeñas tareas de IA que se ejecutan con frecuencia, como el procesamiento de audio y vídeo o los análisis en segundo plano, su activación provoca un rápido aumento del uso y del consumo. En un ordenador portátil, esto se traduce en una demanda desproporcionada de recursos, a pesar de que la carga de IA sea limitada.

La NPU, especializada en estos cálculos precisos, permite ejecutar tareas de IA de forma local con una eficiencia mucho mayor. Sin una NPU, incluso los procesos de IA más sencillos pueden sobrecargar considerablemente la GPU y provocar un elevado consumo energético sin aportar una mejora funcional real. La NPU ofrece una solución más eficiente desde el punto de vista energético al asumir estas cargas energéticas. Para comprender la otra unidad de cálculo integrada en los procesadores modernos, lee también nuestra explicación sobre qué es una iGPU.