En un evento dedicado a la IA celebrado en Taipei, Intel ha confirmado que se encuentra trabajando junto a Microsoft en una nueva iniciativa que alentará a los desarrolladores de software a usar el hardware local para incorporar funciones de IA en sus aplicaciones. Incluso para las solicitudes más pequeñas, Copilot depende totalmente de los servidores de Microsoft, lo que provoca un retraso en la comunicación y un consumo de recursos considerable. Si el usuario pide mucha información la espera es tolerable, pero cuando la consulta es sencilla y requiere de una respuesta básica esta tiene que ser rápida (y lo más económica posible).
Además de la velocidad, la ejecución local de Copilot podría mejorar la privacidad del usuario debido a que no hace falta enviar automáticamente datos a un servidor externo. También se elimina el requisito de una conexión a Internet.
Actualmente Windows apenas usa las NPU debido a que se trata de un procesador que no está muy extendido. Sin embargo, la previsión es que esto cambie pronto. Intel y Microsoft quieren que los llamados “PC con IA” tengan una CPU, una GPU, una NPU y la tecla de Copilot. Y no vale con cualquier NPU. Para ganarse el sello de “PC con IA de próxima generación” Microsoft requerirá una NPU que alcance velocidades de 40 TOPS. Esta es la métrica que usan Intel, AMD y Qualcomm entre otros para comparar el rendimiento de sus NPU.
Los chips Meteor Lake de Intel para portátiles pueden ejecutar 10 TOPS, mientras que los AMD Ryzen 7040 y 8040 alcanzan los 10 TOPS y 16 TOPS, respectivamente. A día de hoy la única compañía que tiene un procesador con una NPU a la altura de un “PC con IA” es Qualcomm, cuyo chip Snapdragon X Elite suma 45 TOPS. Su lanzamiento está previsto para mediados de 2024. Sin embargo, Intel dice tener una hoja de ruta que incluye procesadores de próxima generación que abordarán todos los segmentos del mercado de la IA. En otras palabras, prepararlos para ver NPUs en todos lados y la guerra de los TOPS.
¿Por qué usar una NPU en lugar de la GPU? La NPU está concebida para cargas de trabajo de IA sostenida con bajo consumo energético. Intel asegura que asignar las cargas de trabajo a un compañero de IA como Copilot a la GPU tendría “un gran impacto en la duración de la batería”. Además, Microsoft quiere que la CPU y la GPU estén libres para hacer el resto del trabajo. Intel planea vender 100 millones de PC con inteligencia artificial para 2025.
