本地 LLM vs 云端 LLM:区别与性能差距 [2026]
在自己电脑上运行的本地 LLM,和 Claude、ChatGPT、Gemini 等云端服务型 LLM,同样都是“LLM”,但在性能、成本、隐私和投入精力上有着明显的不同。本文用一张对比表把两者一览无余,并诚实梳理常被误解的“性能差距”在 2026 年缩小到了什么程度。在此基础上,再针对你的具体用途引导你该选哪一个——对大多数人来说,混合使用才是答案。文章即使没有任何前置知识也能读懂。
用AI提升开发效率。代码生成、应用构建、调试和测试自动化的实用指南。
124 篇文章
排序文章以找到您需要的内容
在自己电脑上运行的本地 LLM,和 Claude、ChatGPT、Gemini 等云端服务型 LLM,同样都是“LLM”,但在性能、成本、隐私和投入精力上有着明显的不同。本文用一张对比表把两者一览无余,并诚实梳理常被误解的“性能差距”在 2026 年缩小到了什么程度。在此基础上,再针对你的具体用途引导你该选哪一个——对大多数人来说,混合使用才是答案。文章即使没有任何前置知识也能读懂。
Claude Code 模型名旁的 “Effort” 滑块决定 AI 每次回复投入多少思考与 token。本文解析 low–max 这 5 个 API 等级、为何 “Extra” 等于 xhigh 而最高档是 “Max”,以及 Ultracode 模式的设置方法与适用场景。
Agent Evals 是系统性地衡量一个智能体——会使用工具、分多步去达成目标的那种——是否真的能完成其任务的过程。它是 LLM 评估的演进,把评估对象从“一条输出”扩展到“一连串行动”。因为智能体会规划、调用工具并更新状态,仅凭最终输出是不够的;Google 指出你必须理解智能体行动背后的“为什么”,并把评估分为最终响应与 trajectory。五个维度是:结果(任务成功,以最终状态判断——DB 中是否存在一条预订记录,而非“我订好了”这句话)、trajectory(步骤是否合理、是否以正确顺序使用对的工具)、工具使用的正确性(对的工具与参数,检查函数名和类型)、效率(步数、token、成本、延迟——往往是被引入评估的可观测性信号),以及最终响应的质量(用 LLM-as-judge 或评分量表)。打分器有代码(快/便宜/可复现但脆弱)、LLM-as-judge(灵活但非确定性、需校准)和人工(黄金标准但昂贵——能避免就避免)。Anthropic 建议给结果而非路径打分:机械的 trajectory 匹配“太死板、太脆弱”,因为智能体会找到合理的替代方案,而 Google 和 Microsoft 则提供 trajectory 匹配指标用于诊断失败。特有陷阱包括非确定性(pass^k)、误差累积(p^t)、奖励黑客(DeepMind 的机械臂伪装抓取),以及过时或被污染的评估集。Anthropic 的实战打法:把 20~50 个生产失败变成测试用例,在 CI 中运行自动打分,区分能力评估与回归评估,并尽早编写。SWE-bench、τ-bench、WebArena、GAIA、OSWorld、BFCL 等基准是有用的参考(分数随版本变化,别照单全收)。基于官方信息,并对不确定之处加以标注。
Claude Code hooks 是用户定义的 shell 命令,在 Claude Code 生命周期的特定时点自动运行,让“必须始终发生”的事真正落地、确定性执行,而不依赖 LLM 的判断。经典事件有 9 个——SessionStart、UserPromptSubmit、PreToolUse、PostToolUse、Notification、Stop、SubagentStop、SessionEnd、PreCompact——其中 PreToolUse 等可拦截(阻止受保护文件编辑或危险命令)。你在 settings.json 的 “hooks” 键下以“事件名 → matcher → type + command”的形式配置。输入/输出约定:钩子从 stdin 接收 JSON(session_id、tool_input 等),并通过退出码 0(成功)/ 2(拦截,stderr 回传给 Claude)或结构化 JSON(continue、decision:block、permissionDecision: deny/allow/ask)返回。核心原则是“钩子可以收紧但不能放松限制”(deny 始终胜出,即便在 bypassPermissions 下也会拦截;但插件形式的 mod 在某些情况下可以推翻)。经典用例:编辑后自动格式化(PostToolUse + Edit|Write)、保护关键文件、拦住危险命令、重新注入上下文(SessionStart)、通知/审计日志、停止前先测试(Stop)。安全方面,钩子以你的权限运行任意 shell 命令,故只配置可信的钩子并校验/加引号处理输入;在交互式会话中,信任该文件夹之前设置文件里的钩子不会运行(一项安全特性),而直接修改设置文件通常会自动生效。基于官方文档,以经典的 9 个事件和输入/输出约定为锚点。
checkpointing 与 /rewind 是一张安全网:Claude Code 会在你工作时自动追踪 Claude 的文件编辑,让你用几下按键回退到“出问题之前”。系统在每次编辑前拍下快照,你发送的每个提示都会成为一个还原点,且检查点跨会话保留。使用时,输入 /rewind 或在输入框为空时连按两次 Esc 打开菜单,选好一个点,然后选择还原代码和对话 / 还原对话 / 还原代码(注意:如果输入框含有文字,连按两次 Esc 会改为将其清空)。最重要的注意点:只有由 Claude 的编辑工具(Write/Edit/NotebookEdit)所做的改动会被还原——bash 命令(rm/mv/cp)的文件改动、会话之外或来自其他会话的改动、子代理的编辑、符号链接或硬链接的文件以及数据库状态都不会因回退而被撤销。文档将检查点定位为“为会话级的快速恢复而设计”,并指出永久历史与协作仍应使用 Git 等版本控制,因此原则上要在里程碑处向 Git 提交。/rewind 也是与工具调用并发和思考块相关的 400 错误的恢复方法(产品本身会提示你运行它),不过 v2.1.156 之前的版本可能无法清除它,因此先 claude update 为上。它在交互式 CLI 中默认开启,在 Agent SDK 中需选择启用,并随会话保留 30 天(可配置)。基于官方文档,并标注了不确定之处。
Claude Managed Agents 于 2026 年 4 月 8 日作为公测发布,是一套用于大规模构建和部署云托管智能体的可组合 API。你不必再自己搭建智能体循环、工具执行和运行时,而是获得一个全托管环境,Claude 可以在其中安全地读取文件、运行命令、浏览网页并执行代码,提示缓存、上下文压缩、沙箱化与状态持久化都内置其中。它围绕四个概念(Agent、Environment、Session、Events)组织,Environment 可以是 Anthropic 托管的云沙箱,也可以是自托管沙箱。它与自托管的 Agent SDK(由你运行循环、工具与基础设施)的区别在于“你来运行 vs Anthropic 来运行”——并非竞争对手,而是关于你自己掌握多少运营的选择。一项标志性功能是工作区范围的持久化记忆(memory store),挂载在沙箱的 /mnt/memory,智能体用普通的文件操作读写它,并跨 session 持久保留(不可变版本、过去版本保留 30 天、最近版本始终保留、每条记忆 100 kB 等限制)。dreaming 是一个异步任务,它读取现有记忆和过往文字记录以产出一个经过重组的 memory store——合并重复项、更新过时的值,并浮现出新的洞见(研究预览,需申请访问;Anthropic 的发布博客称其为“按计划运行”,API 文档则描述为由你创建并查询状态的异步任务)。它还具备基于结果的评分(独立评分器依据你的量表评估;据 Anthropic 自己的测试最多提升 10 个百分点)与多智能体编排。定价为 tokens + 每个 session-hour $0.08(精确到毫秒计量,仅在 running 时;按 Anthropic 以 Claude Opus 5 单价计算的算例,一次 1 小时的 session 约为 $0.705)。对所有 API 账户默认启用,但因有状态而不符合 ZDR 或 HIPAA BAA 资格。基于官方信息,并标注了不确定之处。
Claude Code 插件将技能、子智能体、hooks、MCP 配置等扩展打包分发,市场则列出获取插件的来源。本文说明官方与社区目录、登记、安装及启用状态,再通过一套一致的目录结构,演示制作技能、分别验证插件与目录,以及通过 Git 分发的步骤。同时介绍安装范围、与版本有关的更新条件,以及安全审查无法保证的行为。
Claude Code 的 Subagents 和 Agent Teams 都用于让多个 AI 分工,但协调模型不同。Subagents 是内置功能,主智能体把专注任务委派给拥有全新上下文的助手并只取回摘要(层级式、按任务启动、默认最多嵌套 3 层)。Agent Teams 是实验性、默认关闭的功能,需设置 CLAUDE_CODE_EXPERIMENTAL_AGENT_TEAMS=1,让多个独立会话通过共享任务列表对等协作(持久、不可嵌套)。本文基于官方文档梳理两者的决定性差异、该用哪一个以及使用方法。
Claude Design 是 Anthropic Labs 的设计工具,可通过对话创建 UI、原型和单页文档(2026 年 4 月研究预览,6 月 17 日重大升级;9 月 16 日起可在任何对话中使用)。6 月亮点是设计系统导入(用真实组件构建)以及与 Claude Code 的往返:/design-sync 把代码仓库里的 React 设计系统导入 Claude Design,完成的设计交给 Claude Code 或用 /design 带进代码,/design 还能把代码变成画布上的实时原型,缩短设计师与开发者的往返。本文基于官方信息梳理它是什么、6 月升级、两个命令的分工、使用条件以及为什么重要。
2026 年 6 月 18 日,Anthropic 发布了 Claude Code Artifacts,这一功能可以把终端编码会话变成团队可共享的实时网页。Claude Code 不再只是以文本方式没完没了地输出 git diff 和日志,而是把带注释的 PR 走查、自动更新的仪表盘、事件时间线、自动勾选的发布检查清单等,作为 claude.ai 私有 URL 上的一个页面发布出来。本文依据官方文档,讲清它是什么、与 2024 年 claude.ai 画布式 Artifacts 的区别(源自会话、自动更新、默认私有)、怎么用(没有 /artifact 命令,用自然语言请求;Claude 写出 .html 并发布、打印 URL;可通过 Share 在组织内或用公开链接共享)、限制(工作的一次捕捉:无后端、严格 CSP 限制外部请求、单个页面、不超过 16 MiB),以及可用条件(Pro/Max/Team/Enterprise,必须通过 /login 登录,仅限 Anthropic API)。
Claude Code 的认证、登录错误(Not logged in/Invalid API key/organization disabled/OAuth token expired 等)大多是 401/403 凭据问题。最频繁的真因是环境变量 ANTHROPIC_API_KEY 悄悄覆盖订阅登录,引发意外按量计费。本文按 /status → 找出并 unset 多余密钥 → /logout、/login 的顺序讲清排查与防止再次发生的清单。
Claude Code 的 command not found / claude is not recognized 几乎都只是安装目录(~/.local/bin)没在 PATH 里,二进制其实存在。本文系统梳理安装方式与位置、修复 PATH、多重安装冲突、npm 的 EACCES 权限错误(不要 sudo,改用原生)、Windows 用错 shell 的陷阱,并按 claude doctor → which -a claude → 加 PATH → 删除多余版本 → 原生重装的顺序给出排查工作流。