NPU(神经网络处理单元,Neural Processing Unit)是电脑里的一块专用芯片,能用较少的电力完成 AI 运算。现在的许多笔记本电脑都带有它。不过,ChatGPT、Claude、Gemini 等 AI 的运算是在服务器上进行的,因此无论有没有 NPU,速度都不会改变。NPU 在你使用需要在电脑本地运行 AI 的功能时才有用,例如 Windows 的 Copilot+ PC 功能,或视频会议中的背景虚化。

起作用的部件,取决于你想做什么

使用 ChatGPT、Claude 或 Gemini用 Claude Code、Codex 编写代码
服务器(云端)与电脑的 NPU 无关
使用 Windows 的 AI 功能Recall、实时字幕翻译、Studio Effects 等
NPU多数需要 Copilot+ PC(NPU 40 TOPS 以上)
在自己的电脑上运行 AI 模型Ollama、LM Studio 等本地 LLM
GPU 和内存目前只有部分工具能用 NPU

选择带 NPU 的电脑的理由,是想使用第二项“Windows 的 AI 功能”时。

本文依据 Microsoft、Intel、AMD、Qualcomm、Apple 等公司的官方资料(2026年10月25日核对),说明什么是 NPU、哪些功能会用到 NPU、如何读懂性能数字(TOPS),以及如何判断是否要选购带 NPU 的电脑。关于 Mac,请参见第6章。本文用颜色区分各个部件:NPU GPU 云端。

1. 什么是 NPU?与 CPU、GPU 的区别

电脑中有三种能进行 AI 运算的部件。AI 运算的核心是同时进行大量的乘法和加法。这三种部件都能完成计算,但擅长的事情和耗电方式各不相同。

CPU中央处理器

擅长的事
什么都能做。按固定顺序逐步执行的处理
在 AI 中
能运行,但速度慢。是其他两种部件不可用时的替代方案

GPU图形处理器

擅长的事
把同一种计算铺开成大量并行处理,一次完成(原本用于画面绘制)
在 AI 中
对于本地 LLM、图像生成等较重的 AI,通常是最快的选择。独立 GPU 的耗电也较大。能运行的模型大小,独立 GPU 大致由 GPU 显存(VRAM)决定,集成 GPU 或 Mac 则大致由电脑内存的容量决定

NPU神经网络处理单元

擅长的事
只专注于 AI 运算,并以较少的电力持续运行
在 AI 中
适合背景虚化、文字转录、图像校正等希望一直运行的小型 AI。在使用电池的笔记本电脑上,有助于减缓电量消耗

各厂商的叫法不同(Intel、AMD、Qualcomm 称之为 NPU,Apple 称之为神经网络引擎,即 Neural Engine)。近年的电脑芯片,CPU、GPU 和 NPU 都集成在同一块芯片中。

要点是,NPU 只有在应用程序专门为它编写时才会工作。Microsoft 的开发者资料也指出,应用程序必须支持 NPU 才能使用它。即使电脑配备了 NPU,不支持它的应用程序仍会在 CPU 或 GPU 上运行。在 Windows 11 中,任务管理器的“性能”会显示 NPU 的使用率,因此你可以在使用 AI 功能时确认 NPU 是否在工作(Microsoft《Copilot+ PCs 开发者指南》)。

2. ChatGPT、Claude 和 Gemini 会用到 NPU 吗?

ChatGPT、Claude 和 Gemini 的应用程序及网页版会把你的提问发送到互联网另一端的服务器,由服务器上的大型模型生成回答。电脑的 NPU 和 GPU 不参与生成回答的运算,因此不在运行条件之列。例如,ChatGPT Windows 应用的运行条件只针对 Windows 版本(OpenAI 帮助中心)。Microsoft 365 Copilot 也是把语言模型的请求发送到 Microsoft 的数据中心(Microsoft Learn)。

因此,即使你觉得 ChatGPT 或 Claude 回复慢,换成带 NPU 的电脑也不会变快。Claude Code 和 Codex 也是如此。电脑的性能真正影响的,是构建、测试等本地命令的耗时。详情请参阅《Claude Code、Codex 需要什么样的 PC 配置》。

3. 使用 NPU 的 Windows 功能(Copilot+ PC 等)

NPU 的效果在 Windows 11 的 Copilot+ PC 功能上最为明显。Copilot+ PC 是满足 Microsoft 所定条件的电脑的名称,条件如下(Microsoft《Windows 11 规格和系统要求》)。

项目Copilot+ PC 的最低条件
处理器配备 40 TOPS 以上NPU 的处理器目前的适用范围:AMD Ryzen AI 300、400 系列/Intel Core Ultra 200V、300V 系列/Snapdragon X 系列
内存(RAM)16GB(DDR5/LPDDR5)
存储256GB(SSD/UFS)

TOPS 是每秒能进行的运算次数(万亿次)。读法见第5章。Microsoft 表示,NPU 达到 40 TOPS 以上但内存不足 16GB 的电脑等,不属于 Copilot+ PC。即便如此,支持 NPU 的应用程序仍然可以使用 NPU。

下面根据 Microsoft 的列表,列出仅 Copilot+ PC 可用的主要功能。“需要联网”指的是,该功能需要连接 Microsoft 的云端并使用账户进行安全确认。

功能内容补充与限制
Recall(预览版)用文字搜索过去在屏幕上出现过的内容需要 Windows Hello 增强登录
改进的 Windows 搜索不按名称,而是按内容中的文字查找文件和设置针对 6 种语言进行了优化
点击执行(Click to Do)选中屏幕上显示的文字或图像,直接进行操作可用的操作因机型、地区和语言而异
实时字幕为视频和音频添加字幕并翻译可从 40 多种语言翻译成英语,从 27 种语言翻译成简体中文
设置代理用文字输入想做的事,它会找到并更改相关设置支持 10 种语言
照片的超分辨率、画图的对象选择,以及截图工具的完美截图图像的高分辨率化和裁剪—
画图的 Cocreator、照片的 Image Creator 等根据文字生成或改写图像需要联网。针对英语指令进行了优化
照片的重新打光、画图的 Generative Fill,以及自动超分辨率(游戏)更改光照、填充区域,以及游戏的高分辨率化仅限搭载 Snapdragon X 的 Copilot+ PC

出处:Microsoft《Windows 11 规格和系统要求》中的“Copilot+ PC 全部功能列表”(2026年10月25日核对)。功能的提供情况因地区和机型而异。

Windows Studio Effects 从 10 TOPS 起可用

Windows Studio Effects 可对摄像头画面添加效果(背景虚化、眼神交流、自动取景和语音聚焦)。即使不是 Copilot+ PC,只要有 10 TOPS 以上的 NPU 和摄像头,也可以使用。人像光等额外效果仅限搭载 Snapdragon X 的 Copilot+ PC(同一 Microsoft 规格页面)。这些效果的处理由 NPU 负责。

Windows 内置的小型 AI 模型

Copilot+ PC 预装了 Microsoft 的小型语言模型 Phi Silica,它在 NPU 上运行。这是 Windows 功能和应用程序在不联网的情况下,于电脑本地完成文本摘要和改写所用的模型。Microsoft 的资料比较了在 NPU 和 GPU 上运行的情况,称 NPU 的响应更快、耗电更少。Microsoft 计划用后继模型“Aion Instruct”取代 Phi Silica,面向普通电脑的时间是 2027年1月(Microsoft Learn《Get started with Phi Silica》)。

4. 本地 LLM 能在 NPU 上运行吗?

对于把 AI 模型下载到自己电脑上运行的“本地 LLM”,目前仍然是 GPU 占主导。许多广泛使用的工具都是在 GPU 上运行的,只有部分工具能使用 NPU。官方的支持情况如下(2026年10月25日核对)。

工具官方资料中的 NPU 支持主要使用的部件
Ollama应用程序未列出官方支持硬件的资料中只列出 GPU(NVIDIA、AMD、Apple、Vulkan)GPU
LM Studio应用程序未列出官方运行条件只列出 CPU、内存和 GPU 显存(VRAM)GPU
Foundry LocalMicrosoft,面向开发者支持在 Windows 上支持 AMD 和 Qualcomm 的 NPU(Intel 使用 GPU)/部件自动选择,没有则使用 CPUNPU/GPU根据机型自动选择
Ryzen AI SoftwareAMD,面向开发者支持Ryzen AI 300 及以后的机型,可只用 NPU,或同时使用 NPU 和集成 GPUNPU + GPU
OpenVINOIntel,面向开发者支持可在 CPU、GPU、NPU 中选择(NPU 对输入长度有默认上限)NPU/GPU可选择
llama.cpp面向开发者实验性在 Snapdragon 上支持 CPU、GPU、NPU(Hexagon)三种选项,NPU 为实验性支持GPU

出处:Ollama《Hardware support》、LM Studio《System Requirements》、llama.cpp《Snapdragon》、Microsoft Learn《Foundry Local architecture》、AMD《Ryzen AI Software:LLMs》、OpenVINO《Inference with GenAI on NPU》。

另外,也有一些在电脑本地运行的 AI 不以 NPU 为条件。Chrome 浏览器内置了可在电脑上运行的小型 Gemini(Gemini Nano)。但 Google 给出的条件是“显存超过 4GB 的 GPU”或“内存 16GB 以上、4 核以上的 CPU”,并不包含 NPU(Chrome for Developers)。

AMD 表示,在同时使用 NPU 和集成 GPU 时,前半段读取输入由 NPU 负责,后半段生成文字由 GPU 负责。这种分工是:NPU 适合运算量大的任务,而需要持续读取内存的任务则更适合 GPU。

如果你想运行本地 LLM,应关注的不是 NPU 的 TOPS,而是 GPU 的显存(VRAM)和电脑的内存容量。参考标准请见《本地 LLM 需要什么样的配置》,入门方法请见《如何运行本地 LLM》。

5. 性能数字 TOPS 的读法

NPU 的性能用 TOPS(Tera Operations Per Second,每秒万亿次运算)表示,即每秒能进行多少万亿次运算。例如“50 TOPS”就是每秒 50 万亿次。下表按照各公司公布的数值(每个芯片型号的最大值)列出主要芯片的 NPU 数值。红色虚线是 Copilot+ PC 的 40 TOPS 条件。各厂商的测量精度并不统一,请把它当作大致规模的参考(见下方注意事项 2)。

出处:Qualcomm(产品资料中“Hexagon NPU TOPS (INT8)”一行)、AMD(CES 2026 发布)、Intel(CES 2026 发布)。

  • 以上均为型号中的最大值,较低的型号数值会更小(Snapdragon X2 Elite 为 80,Ryzen AI 400 则根据型号为 50 至 60)。
  • 要确认某台电脑是否属于 Copilot+ PC,最可靠的方法是对照 Microsoft 列表中的名称(Intel 写作“200V 和 300V 系列”,与 Intel 自己的“系列 3”叫法不同),以及电脑规格表中的“Copilot+ PC”标注。Qualcomm 的资料称 Snapdragon X2 Elite 面向 Copilot+ PC。
  • 列为适用对象的前几代产品(Ryzen AI 300、Core Ultra 200V、Snapdragon X)同样符合条件,NPU 为 40 TOPS 以上。Mac 的 M4 为 38 TOPS(见第6章)。

比较 TOPS 时的三点注意

  1. 是 NPU 单独的数字,还是整个芯片的数字?Intel 和 AMD 也会公布把 CPU、GPU 和 NPU 加在一起的“整个平台的 TOPS”。例如 Intel 台式机用的 Core Ultra 200S,NPU 最高为 13,整个平台最高为 36(Intel《Core Ultra 200S Product Brief》)。广告中的大数字可能是整个芯片的数值,因此在与 Copilot+ PC 的条件比较时,应查看 NPU 的数值。
  2. 运算的精度不统一。Qualcomm 明确标注其 NPU 数值是按 INT8(8 位整数)测量的,但 AMD 和 Intel 的发布资料中没有标注精度。NVIDIA GPU 的“AI TOPS”使用的是精度更低的 FP4,并且是在使用跳过运算中零值的功能(稀疏性)时的数值。在 NVIDIA 的资料中,台式机用的 RTX 5090 显示了“1676/3352”两个数值,较大的那个是使用该功能时的数值(NVIDIA RTX Blackwell 技术资料)。笔记本用 RTX 50 系列的 AI TOPS 为 440 至 1,824(NVIDIA),但不能将其与 NPU 的数字直接相比并说“几倍”。
  3. TOPS 是理论上的最大值。Intel 的同一资料说明,TOPS 是“效率为 100% 时的理论最大值”。实际速度取决于应用程序是否支持 NPU、内存速度以及电源设置。

6. Mac 的神经网络引擎

搭载 Apple 芯片的 Mac(M1 及以后)包含相当于 NPU 的 神经网络引擎(Neural Engine)。Apple 公布 M4 的神经网络引擎每秒可进行 38 万亿次运算,但 M5 及以后的机型没有公布 TOPS 数值。在 M5 中,Apple 在 GPU 的每个核心中也加入了加速 AI 运算的机制,并主要以 GPU 来说明 AI 性能的提升(Apple《M5》发布)。

在 Mac 上使用 AI 功能时,判断标准是支持的机型,而不是 TOPS。Apple Intelligence 可在 M1 及以后的 Mac 上使用,支持的语言见 Apple 的列表(Apple 支持《Apple Intelligence 的获取方式》)。如果你的 Mac 是 M1 及以后的机型,就不必担心 Windows 上 Copilot+ PC 那种 NPU 性能门槛的问题。

在 Mac 上运行本地 LLM 时,主要使用的同样是 GPU,而不是神经网络引擎。Ollama 资料中列出的 Mac 支持是 Apple 的 GPU(Metal),Microsoft 的 Foundry Local 在 Mac 上也使用 GPU(Microsoft Learn)。由于 Mac 的 GPU 使用电脑的内存(统一内存),因此能运行的模型大小由内存容量决定。

7. 该选带 NPU 的电脑吗?判断步骤

Intel、AMD、Qualcomm 在 2026 年推出的笔记本主力芯片都配备了 NPU。需要考虑的问题是“是否选择满足 Copilot+ PC 条件的机型”,以及“在 NPU 和 GPU 上花钱,应该选哪一个”。按以下顺序思考,更容易做出决定。

  1. 你是否打算使用在自己电脑上运行的 AI?
    否(只使用聊天或 Claude Code 等云端服务)NPU 不影响判断,可根据内存容量、SSD、屏幕和重量来选择
    是进入下一步
  2. 要选择 Mac 吗?
    是M1 及以后的机型可以使用 Apple Intelligence,且没有 TOPS 的门槛。(如果还想运行本地 LLM,应优先考虑统一内存的容量:第6章)
    否(Windows)进入下一步
  3. 你想使用 Windows 的 AI 功能吗?
    也想使用 Recall 或实时字幕翻译选择标有“Copilot+ PC”的机型(NPU 40 TOPS 以上、16GB 内存、256GB SSD)→ 进入下一步
    只使用背景虚化等 Studio Effects10 TOPS 以上的 NPU 即可 → 进入下一步
    不使用NPU 不影响判断 → 进入下一步
  4. 你想在自己的电脑上运行 AI 模型吗?
    是优先考虑 GPU 的显存和内存容量,而不是 NPU(第4章)
    否不需要为 AI 额外投入 GPU 的费用

购买前,请在电脑厂商的规格表中确认“Copilot+ PC”的标注和芯片型号,并在芯片厂商的产品页面中确认 NPU 的 TOPS。对于手头的电脑或门店的展示机,可以查看 Windows 11 任务管理器的“性能”中是否有 NPU 项目,以此判断是否有 NPU。要确认 Studio Effects 是否可用,请前往“设置 > 蓝牙和设备 > 摄像头”,选择摄像头,查看是否出现 Studio Effects 选项。若未出现,则电脑可能没有 NPU(Microsoft 支持中有此说明)。

总结

  • NPU 是电脑中的专用芯片,以较少的电力持续进行 AI 运算
  • ChatGPT、Claude、Gemini 等在服务器上进行运算,因此无论有没有 NPU,速度都一样
  • NPU 对 Windows 的 Copilot+ PC 功能(条件为 NPU 40 TOPS 以上、16GB 内存、256GB SSD)、Studio Effects(10 TOPS 以上)等在电脑本地运行的 AI 有效
  • 本地 LLM 目前仍以 GPU 和内存为主,只有 Foundry Local 和部分厂商的工具等能使用 NPU
  • TOPS 在“仅 NPU 还是整个芯片”和“精度”方面并不统一,无法简单地在不同厂商之间比较
  • Mac 应根据支持的机型而非 TOPS 来判断(Apple Intelligence 需要 M1 及以后),而运行本地 LLM 的关键是内存容量

FAQ

Q. 没有 NPU 的电脑不能使用 AI 吗?

可以。ChatGPT、Claude、Gemini 等在服务器上运行,因此没有 NPU 的电脑也能以同样的方式使用。需要 NPU 的,是 Windows 的 Copilot+ PC 功能等一部分设计为在电脑本地运行的功能。

Q. NPU 的 TOPS 越高越好吗?

在同一厂商、同一计算方式的范围内,它是一个参考指标。但是,如果你使用的应用程序不支持 NPU,这个数字就不会起作用。如果想使用 Copilot+ PC 功能,只需确认电脑是否标有“Copilot+ PC”即可,不必过分关注 TOPS 数字(需同时满足 NPU 40 TOPS 以上、16GB 内存和 256GB SSD)。

Q. 在 AI 方面,搭载游戏用 GPU 的电脑和带 NPU 的电脑哪个更强?

如果要在本地运行本地 LLM 或图像生成等较重的 AI,显存较大的 GPU 更强。NPU 适合持续运行背景虚化或文字转录等较轻的 AI,同时减少电量消耗。

Q. Mac 也有 NPU 吗?

有。Apple 芯片(M1 及以后)中的神经网络引擎就相当于 NPU。在 Mac 上,直接按支持的机型来考虑比看 TOPS 更简单。Apple Intelligence 可在 M1 及以后的 Mac 上使用。

Q. 没有 Copilot+ PC 也能使用 Copilot 吗?

可以。Copilot 应用和 Microsoft 365 Copilot 都在云端运行,因此没有 Copilot+ PC 也能使用。需要 Copilot+ PC 的,是 Recall 和改进的 Windows 搜索等在电脑本地运行 AI 的功能。