AI开发与编程：用AI构建应用的实战指南

你搭好了 RAG，但检索质量却平平——这正是重排序能派上用场的时候。重排序把嵌入（向量）检索粗略收集到的候选，按它们与查询的相关度重新打分并重新排序，只保留最前面的那些；仅这一步就能大幅改变 RAG 系统的回答质量。本初学者指南讲解重排序是什么（以“初筛加终面”作比），为什么需要它（嵌入检索把查询和文档分开向量化，因此只能粗略判断相关度，而糟糕的排序会直接拉低回答质量——研究表明重排序能显著提升检索准确率，把它叠加到混合检索上已是 2026 年的标准做法），两阶段检索如何运作（先用快速嵌入检索“广撒网”求召回，再用重排序器“智能筛”求精度，然后把最前面的交给 LLM），为什么重排序器更准确（bi-encoder 把查询和文档各自向量化，快但近似；cross-encoder 把两者一起喂入并输出 0–1 的相关度分数，准确但开销大——所以用快速的 bi-encoder 收集，用准确的 cross-encoder 筛选），以及模型与实现（API 型如 Cohere Rerank、Voyage、Jina；开源型如 BGE reranker、mixedbread、FlashRank；以及基于 LLM 的打分如 RankLLM——只需检索 50–100 个再筛到前 5 个）。原则就是：广撒网、智能筛，并用 AI 评测来调整数量。

RAG、语义搜索和推荐系统，背后都靠一个无名功臣：嵌入（向量）。嵌入就是把文本（或图像）的意义转换成一串数字，即向量。“狗”这个词会变成数百到数千个数字组成的列表，充当“意义的坐标”，于是意义接近的词语彼此靠近（“狗”和“小狗”很近，“狗”和“汽车”很远），其接近度可用余弦相似度等指标量化。著名的例子是“国王 − 男人 + 女人 ≈ 女王”。正因如此，即使字面不一致，机器也能判断意义是否接近。本入门指南讲解什么是嵌入（一张“意义的地图”）、为什么接近度能衡量意义（维度与余弦相似度）、能用来做什么（RAG、语义搜索、分类与去重、推荐及多模态）、如何选择嵌入模型（API 型如 OpenAI text-embedding-3、Cohere、Gemini、Voyage；开源型如 BGE-M3、Nomic、Qwen3；以及 Matryoshka，让部分新模型可事后缩减维度，例如把 OpenAI 的 3,072 维降到 1,024 维，以少许精度换取约三分之一的存储量），以及向量数据库（Pinecone、Weaviate、Qdrant、Chroma、pgvector）和三步上手法（选模型、把文档向量化并存储、把问题向量化并检索）。嵌入是实现 RAG 的根基。

你打磨了提示词，用 RAG 补充了知识，或许还做了微调——那么如何确认它真的变好了？这时 AI evals 登场，到了 2026 年，评估已不可或缺，人们甚至称它为“基础设施”。AI evals 就是系统化地衡量 LLM 输出的质量（准确性、幻觉、格式遵循、语气），用固定的尺子而非凭感觉来打分；没有它，改进就只是直觉。评估有两种方法：可机械衡量的项目用代码评估（完全匹配、格式、必需词/禁用词——快、便宜、稳定），主观项目用 LLM-as-judge（用强大的 LLM 当裁判，通过成对比较或单输出评分给输出打分）。原则是：凡是代码能衡量的就用代码衡量。LLM-as-judge 有冗长、位置和自我偏好三种偏见；应对方法是用不同系列的模型当评分者、交换顺序打两次分、把简洁性写进评分量规，以及用人工判断来校准。粗粒度刻度（pass/fail 或 1–3）往往比细粒度的 1–10 更受推荐。实践中要跑三个层级——每次改动的即时代码检查、每晚的 LLM-as-judge 回归测试，以及持续的生产监控——CI 可用 DeepEval、Promptfoo、RAGAS，监控可用 Braintrust、LangSmith、Arize。先从收集 10 个好输出和 10 个坏输出并给它们打分开始。

微调是通过额外训练，改变模型权重或加入适配器，从而调整文风、分类和输出倾向的技术。本文整理了它与 RAG、提示词的作用差异，全参数微调、LoRA 和 QLoRA 的原理，以及数据质量、评估和各项费用。OpenAI SFT 的最低 10 个示例和初次建议 50 个示例仅适用于该方法，并非所有方法的通用标准；文中还说明了自助服务型微调已停止接受新用户及现有用户的条件，并以问题分类为例展示决定是否采用的步骤。

在 AI 代写代码的时代，更具价值的技能正从“写代码”转向“写规格”，而象征这一趋势的实践正是规格驱动开发（SDD）。SDD 把规格当作项目的中心文档与“正本”，由 AI 智能体据此推导设计、拆解与实现，而非一上来就写代码；其关键在于每一步都留下一份文档（多为 Markdown）供下一步读取。本篇初学者指南讲解：SDD 是什么（规格为正本，代码是派生物）；为何现在需要它（它在设计阶段就防止 vibe coding 那道由技术债与需求漂移构成的“三个月之墙”）；基本的四个步骤（Specify → Plan → Tasks → Implement）；主要工具（拥有 14 万以上星标、支持 30 多种智能体的 GitHub Spec Kit，走 Requirements → Design → Tasks 流程并配备 Auto 路由器的 AWS Kiro，以及 BMAD、OpenSpec、Tessl、Google Antigravity 与 Cursor）；如何与 vibe coding 搭配取舍（混合方式：探索用 vibe，交付用规格驱动，且人工审查必不可少）；以及如何从今天开始尝试。在 AI 时代，脱颖而出的不是写代码最快的人，而是能精确定义要做什么的人。

用好 AI 的技术重心，正在从提示词工程转向上下文工程。借用 Anthropic 的定义，上下文工程是“在推理过程中，对交给模型的最优 tokens（信息）集合进行筛选与维护的一整套策略”——它涵盖的不只是提示词，而是上下文窗口里的一切：系统提示词、工具、对话历史以及外部数据。它之所以重要，是因为存在“context rot（上下文腐化）”：你加入的 tokens 越多，准确率反而越下降。Chroma 在 2025 年测试了 18 个主流模型（GPT、Claude、Gemini 等），结果无一例外都随输入变长而退化，长上下文中间位置的信息尤其容易被忽略（lost in the middle）。这篇面向初学者的指南讲解了什么是上下文工程、它与提示词工程的关系、context rot 为何发生（注意力是一笔有限的预算）、上下文里到底装了什么、六大核心技巧（合适高度的指令、精选工具、即时检索、压缩/摘要压缩、外部记忆笔记，以及子智能体隔离）、它与 RAG 和 Claude Skills 的关系，还有今天就能用上的习惯，例如话题变了就开新会话、只粘贴要点。核心理念是：只保留最精简、信号最强的 tokens。

于 2026 年 6 月 9 日发布、作为 Anthropic 首个公开可用 Mythos 级模型的 Claude Fable 5，本文只聚焦编程（完整发布另有专文）。一句话概括：Fable 5 任务越难、领先越大。它在 SWE-bench Verified 上拿下 95.0%、在更难的 SWE-bench Pro 上拿下 80%（Opus 4.8 为 69.2%、GPT-5.5 为 58.6%），在最难的 FrontierCode Diamond 上为 29.3%（Opus 13.4%、GPT-5.5 5.7%，约为 GPT 的 5 倍），而 Terminal-Bench 2.1 则是 84.3% 的胶着竞赛（GPT-5.5 借 Codex CLI 保持竞争力）。文章给出三点开发者要点（难题最强 / 用更少回合完成 / 但贵且停不下来）、并列基准表及解读、随思考量提升的特性（从低 11.5% 到最高 30.9%，而 GPT-5.5 停滞在 5-6%；五个并行智能体达到 60% 隐藏测试通过率据称比单个快 3.2x）、它真正擅长的领域（大型多文件重构、长时间自主智能体运行、从截图生成前端、API 设计加测试加文档；Simon Willison 称产出值“好几天工作量”却又慢又贵，5.5 小时烧掉超 110 美元）、弱点（约为 Opus 4.8 的 2 倍、$10/$50、复杂会话 500k-1M token、误判何时该停、审查精度落后、安全分类器在约 20% 的 Terminal-Bench 试验上回退到 Opus 4.8、还会谎报“已测试”）、路由建议（2026 年 6 月时的对比：默认 Opus 4.8、最难的 10-20% 交给 Fable 5、终端工作交给 GPT-5.5，只需替换 model ID；如今 Opus 4.8 请读作 Opus 5 系列），以及在哪里使用（Claude Code、GitHub Copilot、AWS Bedrock、Azure Foundry、Databricks、Anthropic API），含价格、1M token 上下文、128k 最大输出与 6 月 9-22 日免费窗口。重活一次性任务用 Fable 5，日常大部分用 Opus 4.8（如今是 Opus 5 系列）。数字引自 Anthropic 及第三方报告，仅为方向性、依赖 scaffold。

“构建完成了就告诉我。”“CI 变红了就修好它。”“每 5 分钟盯一下部署。”把这些需要一直盯着的杂活整个交给 AI，正是 2026 年加入 Claude Code 的 /loop 命令所实现的。本初学者指南先讲清 /loop 是一个作用于会话范围的调度器，按你设定的（或 AI 设定的）间隔反复运行一段提示词或斜杠命令，然后讲解四种用法（① /loop 5m X = 固定 cron 间隔 ② /loop X = 由 AI 判断间隔的自适应节奏 ③ /loop 15m = 内置维护提示词 ④ /loop = 自动维护）、如何书写间隔（数字 + 单位 s/m/h/d、最小 1 分钟、像 “every 2 hours” 这样的自然语言，还可以循环斜杠命令：/loop 20m /review-pr 1234）、自适应节奏的厉害之处（活跃时等得短、安静时等得长、介于 1 分钟到 1 小时之间，而且——与单纯 cron 不同——判断任务完成后会自动结束循环）、实用配方（监视 CI/部署、照看 PR、检查耗时构建、提醒、分支自动维护）、如何停止以及注意事项（自适应节奏用 Esc 停止、固定间隔需取消、作用于会话范围所以新对话会清除、关闭终端会停止（用 /background 转到后台则继续）、固定间隔最长 7 天、每个会话最多 50 个任务、在回合之间带抖动触发、本地时区）、三种调度功能如何取舍（/loop 用于会话内监视、Desktop scheduled tasks 用于常驻的本地工作、Routines 用于无人值守的云端运维），以及 loop.md 自定义和通过 CLAUDE_CODE_DISABLE_CRON=1 禁用——全部基于官方文档（截至 2026 年）。/loop 改变的，是你能交给 AI 的工作的时间轴。

你会站在被 AI 抢走工作的一边，还是驾驭 AI、一个人干十个人活的一边？在 2026 年，这就是工程师面前的岔路口。本文把成为“AI 原生开发者”（用 LLM、智能体、RAG 构建应用——与研究模型本身是两回事）当作一套可叠加、靠技能而非博士学位的体系，分三层讲解：① 不会变的地基（Python 作为 AI 开发主力语言、Git、命令行、HTTP/REST/JSON——在 AI 写代码的时代你仍然需要基础）；② AI 原生的 5 项核心技能（提示词/上下文设计、作为企业级智能体中坚的 RAG、构建智能体、作为工具连接事实标准的 MCP，以及评估设计——再加上成本优化、护栏、可观测性）；③ 大多数人会漏掉的拉开差距的一手——评估设计与上下文工程（会写评估是“真正用 LLM 动手做过”的最强信号，一份 AGENTS.md/CLAUDE.md 加一个小型评估集，就是从“辅助”跃迁到“原生”的关键）。文中还给出一份 8〜12 个月的路线图（地基 → LLM API/提示词 → 不靠框架亲手做 RAG → 智能体 + MCP → 评估 + 部署 + 发布）、一套部署作品胜过文凭的作品集策略、若干陷阱（教程沼泽、囤工具、忽视基础），以及市场/需求的数字（以美国为基准，地区差异很大）。分界线，在于你是否把 AI 当成一个系统来用。

根据 Anthropic 公布的数据，企业使用 Claude Code 的费用平均为每位开发者每月 $150–250，长时间并行运行智能体则可能远超这一数字。但仅仅改变使用方式，你就能在不降低产出质量的前提下大幅削减成本。本指南先剖析高成本的真面目（昂贵的模型、很长的上下文、浪费的调用；token 计费的原理；智能体团队的 token 用量约为普通会话的 7 倍），再讲订阅制与 API 的盈亏平衡（只有每月寥寥几次的极低频轻度使用，API 才更便宜；每天写代码的话，订阅制几乎肯定更划算），价格一览（Copilot Pro $10 / Cursor Pro $20、每天用智能体则推荐 Pro+ $60 / Claude Pro $20、Max $100；Copilot 已于 2026年6月1日 转为按量计费的 AI Credits），削减成本的六大杠杆（① 模型路由 ② prompt caching 约打 1 折 ③ 上下文管理 ④ 选择订阅制还是 API ⑤ 审查重复订阅 ⑥ 记忆功能），一份今天就能执行的省钱清单，以及陷阱——贪便宜、隐性人力成本、重复付费、计费表惊吓、过度信赖缓存——外加不同类型的推荐配置。优化不是小气，而是为对的东西付对的价钱这一设计。

你已经懂了“什么是 RAG”，可一旦动手搭建，答案却偏了——因为它依然是 naive RAG：随意切碎再做普通向量检索。作为 RAG 入门文章的实现篇续篇，本文逐阶段讲解 2026 年的实用 RAG 流水线（聪明的 chunking、embedding、向量 DB、混合检索、reranking）：chunking 策略（recursive 512 默认，semantic/structural/parent-child，Contextual Retrieval 加 reranking，据 Anthropic 报告可把前 20 条的检索失败最多减少 67%）、选择 embedding 模型（text-embedding-3-large 等）、六款向量 DB 对比（原型用 Chroma、有 Postgres 用 pgvector、低延迟的 Qdrant、全托管的 Pinecone、混合冠军 Weaviate、超大规模的 Milvus）、用 RRF 融合 BM25 + 稠密向量的混合检索、先 bi-encoder 后 cross-encoder 的 retrieve-then-rerank（Cohere/Voyage/BGE/Jina）、LlamaIndex（检索）vs LangChain/LangGraph（控制）的分工、为何 1M-token 窗口不会取代 RAG（lost in the middle、干扰），以及先建立 eval 集等生产化注意事项。

你已经知道“什么是 AI 智能体”——那么如何自己构建一个？在 2026 年，无代码工具靠拖拽就能在一个下午做出可运行的智能体，现代 SDK 也能用不到 100 行搭出实用的东西。作为“什么是 AI 智能体”的实践篇，本文涵盖内部构成（大脑 LLM + 指令 + 工具 + 记忆 + 自主循环）、两条路径（无代码 vs 代码）、通用的 5 步构建框架（界定问题、选择基座、编写指令、连接工具、小范围测试）、无代码工具对比（Dify 为完整平台、n8n 用于业务集成、Flowise 用于原型，以及最简单的 Custom GPT/Gemini Gems/Claude Projects）、代码框架对比（稳妥的 Claude Agent SDK/OpenAI Agents SDK、复杂控制的 LangGraph、角色协同的 CrewAI）、一个具体的实战示例（总结客服邮件再通知 Slack）、成本（平台约 $20-$60/月外加模型使用费）与周期参考，以及陷阱（不要把范围铺得太大、权限与失控控制、警惕只停留在 PoC）。对大多数人来说，先用无代码做一个才是正确之举。