什么是微调？与 RAG 的区别、数据需求、费用和使用条件

“我想为公司定制 AI。”一种选择是微调（fine-tuning）：使用面向特定用途的数据，对预训练大语言模型进行额外训练。所需数据量、费用和可用服务各不相同，因此应先建立衡量改进的基准。本入门指南介绍微调的作用和优势、它与RAG及提示词方法的区别、主要训练方式、必要条件和入门步骤。

1. 什么是微调？

微调是指使用特定应用场景的数据，继续训练已经训练好的 AI 模型（基础模型），从而调整其回答模式。例如，让回答符合公司文风、采用特定输出格式，或适应专业术语。目标是让模型本身学会这些模式。

可以把它理解为新员工培训。即使新员工能力出色——就像基础模型——也未必了解公司的做事方式。通过公司示例训练，旨在让回答适应这些方式，并检验是否可以缩短指令。微调会更新模型权重（参数）或额外的适配器。

“定制模型”不意味着你拥有底层模型。应区分通过 API 访问的模型与自行管理权重的模型，并核对基础模型的许可证和分发条款。

2. 优势与限制

误解用途可能导致失败。微调是调整文风、分类和指令遵循等回答模式的一种选择；它不是自动吸收训练完成后新增信息的机制。

如果目标是准确处理最新信息或内部数据，RAG（检索信息并加入上下文）比微调更合适。微调可以让回答更接近期望的语气或格式。如果需要 JSON 等格式，也应比较支持该功能的模型所提供的结构化输出。OpenAI 的结构化输出指南区分了格式合规与字段值在语义上的正确性，并说明如何处理拒绝回答。

3. 如何选择 RAG、提示词方法和微调

这三种常见的 AI 定制方法具有不同的作用和成本构成。下表提供概览。

一个实用的判断原则是：“事实与知识用 RAG，行为与模式用微调，先改进提示词。”在生产环境中，可以用 RAG 提供文档，再用微调调整回答，但并非每个系统都需要两者。这也与上下文工程有关。

4. 主要方法：全参数微调、LoRA 和 QLoRA

SFT 从期望的输出中学习，DPO 利用回答偏好，RFT 则利用评分器给出的分数等信号。下面的全参数微调、LoRA 和 QLoRA 属于另一种分类：关注更新哪些参数以及数值精度。API 服务未必允许自由选择内部实现。请参阅OpenAI 的训练方法指南。

微调有多种实现方式。初学者可以先了解以下三种。

PEFT 官方文档以及 LoRA/QLoRA 原始论文解释了这些机制。论文中的实验结果并不保证适用于所有模型。

应根据可用资源和评估结果选择全参数微调、LoRA 或 QLoRA。一种方法失败，并不能证明其他方法也会失败。使用本地大语言模型时，也可能在自己的电脑上进行小规模试验。

5. 数据、费用与工具

数据需求：允许提交的最少数量不等于达到实用质量所需的数量

OpenAI 的 SFT 指南称，50–100 个示例可以带来改进，并建议如果 50 个示例没有改进，应重新检查任务或提示词。这是针对 OpenAI SFT 的指导，不能证明所有方法都需要 500 个示例。满足提交门槛与获得实用质量是两回事。

增加数量之前，应检查示例是否接近真实输入、答案是否正确、类别分布是否适当，以及是否存在重复或矛盾。训练数据和评估数据应分开，避免同一问题的改写版本同时出现在两者中，导致分数虚高。如果输入缺少推导答案所必需的信息，却仍训练模型给出正确答案，可能会鼓励没有依据的猜测。请参阅OpenAI 关于数据质量和划分评估数据的指导。

费用：不仅要计算训练，也要计算持续使用

按 token 计费时，可先计算“计费训练 token ÷ 一百万 × 单价”；按时间计费时，计算“计费时间 × 每小时价格”。应核对供应商如何计算 token 或时间，以及如何处理失败和重试。自行训练时，还应估算数据遍历次数、输入长度、GPU 数量和运行时间。

以下两个示例采用不同方法和计费单位，取自OpenAI 官方价格表的 Standard 费率，核对日期为 2026 年 10 月 10 日。列出价格并不表示新用户可以申请；请查看下面的使用资格条件。

本价格示例中的 o4-mini 及其微调版本计划于 2026 年 10 月 23 日停止服务。选择模型之前，请核对OpenAI 官方停止服务公告。

这些是 API 微调和推理费用，不是 ChatGPT 订阅价格。批处理和数据共享可能适用另外的费率，因此“每百万 token $25–$100”并不是所有方法共用的价格。估算时应考虑共享条件和推理费率。

如果目的是省钱，应测量训练后每次请求的成本是否确实下降。将实施费用除以每次请求的节省金额，可以估算盈亏平衡的请求量，但前提是回答质量相当且节省金额为正。请求量较小时，推理费下降未必能收回准备成本。

提供条件：OpenAI 的逐步退出与自行训练

来源：OpenAI 自助微调使用资格的变化，核对日期为 2026 年 10 月 10 日。价格表或教程仍在线，不代表你的组织可以开始训练。

使用可访问权重的模型自行训练时，Hugging Face TRL 的 SFTTrainer是一种选择。应检查模型和数据许可证、GPU 内存、输入长度、支持的训练方法和存储位置。使用其他供应商的托管服务时，也应根据最新规格核对支持的模型、地区、合同条款和计费单位。

6. 通过小规模试验决定是否采用

下面以将咨询分为“配送”“退货”或“其他”为例，给出示范计划。本文并未实际运行训练，也未测量性能或产生相应账单。

1. 定义验收标准：记录分类准确率、不确定情况的处理方式、响应时间和每次请求费用。严重误分类应与平均表现分开追踪。
2. 测量基准表现：整理指令和示例，再用不会用于训练的数据评估。区分指令缺失、信息缺失和模型判断问题。
3. 选择针对原因的方法：如果缺少参考资料，应检查检索系统。如果问题在于判断标准或回答模式，则将微调纳入比较。不必始终先试 RAG。
4. 核对执行条件：计划小规模训练之前，核对可用性、模型、预算、数据使用授权、外部传输和存储。
5. 采用相同评估进行比较：向基础模型和微调模型提出相同问题。包括未见过的输入、其他语言、长文本和应该拒绝的请求。
6. 决定采用、调整或暂缓：比较质量提升、成本、延迟和运维负担。如果没有改进，应重新检查数据或设置，不要立即替换生产版本。保留可回退的版本。

训练后，继续监测错误增加的领域、信息更新和基础模型停止支持的情况。训练表现本身不能说明模型如何处理未见过的输入。OpenAI 的评估指导也建议分开训练数据和测试数据。

总结

关于微调，应记住三点：

• 定义：对预训练模型进行额外训练，通过更新权重或额外适配器调整回答模式。
• 选择方法：确定问题是参考信息、指令还是回答模式，再在相同条件下比较方法。
• 开始步骤：核对可用性、预算和数据使用授权。数据需求和费用因方法、模型和场景而异。

微调是一种需要通过评估证明有效的改进选项。训练任务完成与实际工作中的质量提升，需要分别验证。RAG和上下文工程的相关指南有助于理解 AI 定制的全貌。另一种与缩小模型有关的技术是模型蒸馏。

常见问题