对于 AI API 中不需要立即返回结果的任务,可以降低单价来处理。OpenAI 和 Claude(Anthropic)总共提供了3种机制:两家公司都有的 Batch API(将请求批量发送,稍后接收结果)、只有 OpenAI 提供的后台处理折扣时间窗口,以及 OpenAI 正在逐步停止的 Flex。本文先用相同的指标比较两家公司的 Batch API,再介绍只有 OpenAI 提供的另外两种方案。文中还包含我们网站的翻译工具对 OpenAI Batch 和常规请求进行比较的实测结果。

先说结论

大量一次请求即可完成的任务

使用 Batch API 可享受50%折扣

OpenAI 和 Claude 的输入与输出价格都减半。期限为24小时。Anthropic 表示,许多 Claude 批次会在1小时内完成。

可以在 OpenAI 上等待几小时的任务

选择时间窗口,享受30%至40%折扣

发送请求时选择2小时窗口(折扣30%)或8小时窗口(折扣40%)。无论是单个请求,还是返回工具结果的后续请求,都可享受折扣。

OpenAI Flex

不要再用它构建新任务

GPT-6.2 模型不支持 Flex,OpenAI 正在逐步结束其测试版。如果你目前正在使用,请确定要将工作负载迁移到哪里。

核实日期:2026年11月22日。来源为各节末尾列出的 OpenAI 和 Anthropic 官方资料。

1. 3种机制为不紧急的任务提供折扣

这3种方案的区别在于可以等待多久,以及任务能否通过单个请求完成。如果只根据折扣幅度来选择,可能会用 Batch 处理需要多次调用工具的任务,结果每次往返都要等待。

机制提供方折扣等待时间提交方式状态
Batch APIOpenAI · Anthropic(Claude)50%期限为24小时Anthropic 表示,许多 Claude 批次会在1小时内完成将多个请求合并后一次提交,稍后接收结果已提供
后台处理时间窗口OpenAI2小时窗口:30% · 8小时窗口:40%目标是在所选时间窗口内完成逐个发送请求;返回工具结果的后续请求也享受相同折扣公开测试版
FlexOpenAI50%(与 Batch 单价相同)比平常慢,有时无法使用在常规请求中添加 service_tier: "flex"正在逐步停止 · GPT-6.2 不支持

来源:OpenAI 的“Batch API”“Background mode”和“Flex processing”;Anthropic 的“Batch processing”(核实于2026年11月22日)。Google 的 Gemini API 也提供 Batch API,费用为常规处理的50%,目标时限为24小时。

2. 比较 OpenAI 和 Claude 的 Batch API

两者都允许你批量提交请求,并在全部处理完成后一次性接收结果。折扣相同,都是50%,但提交方式、限制和结果保留期限各不相同。

项目OpenAI Batch APIClaude Message Batches API
折扣输入和输出均享受50%折扣输入和输出均享受50%折扣
提交方式上传 JSONL 文件,然后创建批次通过 API 直接发送请求列表
单个批次上限50,000个请求 · 输入文件200 MB100,000个请求或256 MB,以先达到者为准
创建和队列限制每小时最多创建2,000个批次;此外,排队等待处理的输入 token 数也有按模型设置的上限(可在控制面板的 Limits 中查看自己的上限)Batches API 的 HTTP 请求数量以及排队等待处理的请求数量均受速率限制(具体值因使用级别而异)
期限24小时24小时(Anthropic 表示,许多批次会在1小时内完成)
期限到期时已完成的请求会返回结果并计费(未完成的请求会被取消;文档未说明如何计费)已完成的请求会返回结果并计费(在发送给模型之前过期的请求不计费;文档未说明发送给模型之后的请求如何处理)
如何检查错误出错的请求会出现在单独的错误文件中,与输出文件分开结果类型会标记为 errored,且该请求不计费(取消的请求会标记为 canceled,同样不计费)
如何获取结果下载输出文件,并通过 custom_id 匹配请求(行的顺序不一定与输入相同)所有请求完成或24小时后即可获取结果;通过 custom_id 匹配请求
结果保留期限默认为30天(创建批次时可指定1小时至30天)创建后29天
不支持的内容带有 stream 的请求stream · 快速模式(speed)· 服务器端备用方案(fallbacks)· max_tokens: 0
与缓存叠加Batch 有缓存输入的单价(为常规单价的一半)缓存倍率可与 Batch 折扣叠加

来源:OpenAI 的“Batch API”(限制、过期和结果文件)和“Pricing”(缓存输入);Anthropic 的“Batch processing”(限制、结果类型和不支持的设置)和“Pricing”(折扣叠加方式)。核实于2026年11月22日。

两家公司都不保证所有请求能在24小时内完成。对于有截止时间的工作,应分别规划以下两种处理方式。

  • 期限过后重新提交:获取结果和错误,然后使用 custom_id 逐个区分请求。排除成功的请求。没有结果、已过期或已取消的请求,可在新批次中重新提交,或作为常规请求发送。对于出错的请求,先找出原因(例如输入无效)并修正,再重新提交。
  • 期限前切换到常规请求:先取消批次,并等待取消完成(OpenAI 会标记为 cancelled,Claude 会标记为 ended。对于 OpenAI,正在处理的请求最多可能需要10分钟才能结束)。取消之前已处理的请求会返回结果并计费,因此要先获取这些结果,并通过 custom_id 将其排除,然后仅将剩余请求作为常规请求提交。如果不等取消完成就提交,可能会为同一个请求支付两次费用。

应提前确定切换时间:从截止时间中扣除等待取消完成、获取并核对结果、将剩余请求作为常规请求处理所需的时间,并预留重试时间。

价格

模型常规(输入 / 输出)Batch(输入 / 输出)
GPT-6.2 Astra$8 / $40$4 / $20
GPT-6.2 Sol$2 / $10$1 / $5
GPT-6.1 Terra$1 / $5$0.50 / $2.50
GPT-6 Luna$0.10 / $0.50$0.05 / $0.25
Claude Fable 5.2$8 / $40$4 / $20
Claude Opus 5.5$4 / $20$2 / $10
Claude Sonnet 5.5$2 / $10$1 / $5
Claude Haiku 5.5$0.10 / $0.50$0.05 / $0.25

每100万 token 的美元价格。来源:OpenAI 的“Pricing”;Anthropic 的“Pricing”(核实于2026年11月22日)。会影响单价的输入长度:表中的4个 OpenAI 模型,单次请求输入超过272,000个 token 时,将按长输入单价计费(Batch 也一样)。Claude Haiku 5.5 的单次请求输入超过100,000个 token 时,单价会更高(Batch 为 $0.25 / $1.25)。表中其余3个 Claude 模型的单价不受输入长度影响。

3. OpenAI 后台处理时间窗口——工具往返也可享受折扣

在 Responses API 请求中添加 background: true,并通过 background_options.completion_window 选择时间窗口,即可降低模型 token 的单价。折扣取决于提交时选择的时间窗口,而不是实际耗时。时间窗口是该请求的响应应在何时完成的目标。

时间窗口折扣适用场景(OpenAI 示例)
soonest(默认)无有人等待时生成报告
2h比常规价格低30%在下午会议前汇总早上的咨询内容
8h比常规价格低40%夜间阅读文档,并在次日早上前完成核查
POST /v1/responses
{
  "model": "gpt-6.1-terra",
  "input": "(要阅读的文档和指示)",
  "background": true,
  "service_tier": "default",
  "background_options": { "completion_window": "8h" }
}

来源:OpenAI 的“Background mode”和“Pricing”(核实于2026年11月22日)。上面的示例是 OpenAI 所述“夜间核查文档”场景的最简形式。

  • 支持的模型:GPT-6.2 Astra · GPT-6.2 Sol · GPT-6.1 Terra · GPT-6 Luna。公开测试版。
  • 条件:将 service_tier 设为 default(标准处理)。使用 auto 时,只有在选中标准处理的情况下才会享受折扣。不要添加 stream。
  • 接收结果:保存返回响应的 ID,通过 response.completed webhook 确认何时完成,并按 ID 获取响应。如果无法使用 webhook,可使用相同的 ID 查询状态。
  • 后续请求:模型调用工具后,发送下一个请求并返回工具结果。如果为下一个请求也设置了时间窗口,该请求同样享受折扣。此外,在相同的模型、时间窗口和项目中,使用应用程序指定的同一个 continuation_id,后续请求更有可能获得优先处理。时间窗口的目标针对每个请求,而非整个流程。总耗时是每个请求的等待时间与应用程序运行工具所需时间之和。
  • 缓存单独处理:带时间窗口的请求创建的提示缓存,无法供时间窗口之外的常规请求使用。即使内容完全相同,也不会命中缓存。
  • 队列上限:2小时和8小时窗口的请求,与 Batch API 共用可排队等待处理的输入 token 数上限。
  • 存储:即使将 store 设为 false,后台处理仍会临时存储响应数据。

我们核实了截至2026年11月22日的 Claude Messages API 价格表,其中没有提到这种通过时间窗口降低单价的机制。本文将 Batch API 和提示缓存作为 Claude 的可选方案进行比较。

4. OpenAI Flex——不要再用它构建新任务

在常规请求中添加 service_tier: "flex",即可通过接受较慢的响应和偶尔无法使用的情况,享受与 Batch 相同的单价。根据 OpenAI 截至2026年11月22日的说明,状态如下:

  • 支持的模型:价格表中列有 Flex 单价的模型仍可使用,包括 GPT-6 Astra · GPT-6.1 Sol · GPT-6.1 Terra · GPT-6 Luna。
  • 不支持的模型:GPT-6.2 Astra · GPT-6.2 Sol。未来的模型也不要使用。
  • 政策:正在逐步结束测试版。
  • 结束日期:尚未公布。OpenAI 表示,日期确定后会在文档页面公布日期和迁移方式。

来源:OpenAI 的“Flex processing”(核实于2026年11月22日)。

如果你目前正在使用 Flex,请按以下顺序确定迁移方案。

  1. 列出每项任务需要在何时收到响应(几分钟后、几小时后或第二天),以及是否需要流式传输或工具调用往返。
  2. 如果需要流式传输,只能选择常规请求和缓存(Batch 和时间窗口都不支持流式传输)。如果任务通过单个请求即可完成,而且在24小时期限内还来得及重试,就使用 Batch API。如果无法等待24小时,但可以等待几小时,无论是否涉及工具,都可以使用时间窗口(2小时或8小时);这只是每个请求的目标,并非保证。如果任务涉及工具调用往返,还要估算从第一个请求到最后一个响应的总耗时,包括依次等待每个请求的时间以及运行工具的时间是否能赶上截止时间。如果赶不上,就使用常规请求。
  3. 先用候选方案处理少量请求,再对比费用、等待时间和所需功能是否符合截止时间,并与当前的 Flex 设置比较,然后再切换。

5. 能否与缓存折扣叠加?

对于会重复发送相同前置内容(指示或资料)的任务,能否与提示缓存折扣叠加,会进一步影响费用。

机制与缓存的叠加方式
OpenAI Batch可以叠加。Batch 价格表列有缓存输入的单价,为常规处理缓存输入单价的一半(GPT-6.2 Sol 每100万个 token 从 $0.10 降至 $0.05)
Claude Batch可以叠加。缓存写入和读取倍率可与 Batch 的50%折扣叠加(关于保留时间,Anthropic 建议将共享前置内容使用1小时缓存,因为 Batch 处理可能超过5分钟)
OpenAI 时间窗口可用范围:带时间窗口的请求之间共享(不与时间窗口之外的常规请求共享)。单价:价格表未列出时间窗口内请求的缓存输入单价(核实于2026年11月22日)
OpenAI Flex适用 Flex 价格表中的缓存输入单价(GPT-6.1 Sol 每100万个 token 为 $0.05;这不是在 Batch 单价基础上的额外折扣)

来源:OpenAI 的“Pricing”“Background mode”和“Flex processing”;Anthropic 的“Batch processing”和“Pricing”(核实于2026年11月22日)。

关于缓存的工作方式以及缓存未命中的原因,请参阅“OpenAI 和 Claude 的提示缓存有何不同”。

6. 实测:OpenAI Batch 与常规请求的费用和耗时

我们的网站使用 API 为文章生成初译。2026年11月22日,我们使用 OpenAI 的 GPT-6 Luna(推理力度:medium),分别通过常规请求和 Batch 翻译同一篇文章,并比较工具记录的费用和耗时。工作流程是先翻译成英语,再以英文版为参考翻译成其他语言。每个请求的前置内容(指示和原文)在英语任务中约为15,000个 token,在其他语言任务中约为23,000个 token。当天没有测试 Claude Batch。

单篇英文翻译的费用(美元,根据使用的 token 计算)

常规请求$0.0059
Batch$0.0030

单篇英文翻译的耗时(秒)

常规请求52秒
Batch246秒

这不是实际账单金额,而是将响应 usage 中的 token 数乘以价格表中的单价计算得出。常规请求:输入3个 token、缓存写入15,389个 token、输出7,913个 token,分别乘以输入 $0.10、30分钟缓存写入 $0.125、输出 $0.50(每100万个 token),约为 $0.00588。Batch:输入3个 token、缓存写入15,404个 token、输出8,199个 token,分别乘以 Batch 价格 $0.05、$0.0625、$0.25,约为 $0.00301。OpenAI 价格表中,缓存写入(30m write)与输入属于不同的单价类别。常规请求的耗时从提交到收到响应;Batch 的耗时从提交到收到结果,其中包括每30秒查询一次状态所产生的等待时间。

这次测试中,费用几乎减半,等待时间则增加了几分钟。与常规请求一样,译文的 HTML 结构(标题、表格和链接的数量)与日语原文一致。这是结构检查,译文质量另行阅读核查。

以完整工作流程为例,如果等英文翻译完成后再提交其他语言,就需要分成两个批次。第二个批次将西班牙语和中文两篇合并处理,耗时154秒;中文请求从缓存中读取了约23,000个前置 token。英语、西班牙语和中文3种语言合计约6分40秒(这不是与常规请求的对比)。

结果来自每次1至2个请求的小规模测试,处理时间会随当天的繁忙程度而变化。批次较大或繁忙时段可能耗时更长。

7. 该用哪种方案?回答4个问题

有人在等待结果(聊天或操作屏幕)常规请求 + 提示缓存
许多任务都能通过单个请求完成,而且加上24小时期限内的重试时间后仍能赶上截止时间Batch API(50%)
使用 OpenAI 时无法等待24小时,但可以等待几小时(无论是单个请求,还是涉及工具调用往返)2小时窗口(30%)或8小时窗口(40%)。如果涉及往返,要估算整个流程的耗时;如果无法赶上截止时间,就使用常规请求
使用 Claude,且任务涉及工具调用往返通常使用常规请求 + 缓存。只有在加上各阶段的批次等待时间和重试时间后仍能赶上截止时间时,才使用 Batch

2小时和8小时窗口是每个请求完成时间的目标,并非保证。对于截止时间紧迫的工作,应选择常规请求,而不是折扣。我们核实的 Claude 价格表没有提到时间窗口折扣,因此如果用 Batch 处理涉及工具调用往返的任务,每次往返都必须等待批次完成。需要流式传输的任务,无论使用哪家公司,都应采用常规请求。

选择折扣方案之前,最好用有代表性的输入确认低成本模型是否仍能满足质量标准,这样往往能带来更大的效益。模型单价的差异通常比折扣幅度更大;例如,上表中 GPT-6 Luna 的单价是 GPT-6.2 Sol 的二十分之一。关于如何选择模型,请参阅“如何节省 AI 使用费用和 token 成本”。

总结

对于不需要立即返回结果的任务,OpenAI 和 Claude 的 Batch API 都能将单价减半。期限为24小时,但两家公司都不保证所有请求都能完成。期限内完成的请求会计费。没有返回结果的请求应重新提交;出错的请求应先修正原因,再重新提交。OpenAI 还提供在提交时选择的2小时窗口(折扣30%)和8小时窗口(折扣40%),也可用于涉及工具调用往返的任务。Flex 不支持 GPT-6.2,而且正在逐步停止,因此不要用于新任务。两家公司都可以将 Batch 折扣与共享前置内容的缓存折扣叠加。

常见问题

Batch 多久能返回结果?

OpenAI 和 Claude 的期限都是24小时,但两家公司都不保证所有请求能在期限内完成。Anthropic 表示,许多批次会在1小时内完成。在我们的小规模测试中(OpenAI,1至2个请求),从提交到返回结果用了2至4分钟。

24小时内未完成的请求也会计费吗?

两家公司都会对期限内完成的请求计费。根据文档中说明的内容,未完成请求的处理方式如下:OpenAI 只说明请求会被取消,没有明确说明如何计费。Claude 表示,在发送给模型之前过期的请求不计费,但没有明确说明发送给模型之后过期的请求如何处理。Claude 对出错或已取消的请求也不计费。

我在使用 Flex。还能用到什么时候?

截至2026年11月22日,尚未公布结束日期。OpenAI 表示,日期确定后会在 Flex 文档页面公布日期和迁移方式。GPT-6.2 Astra、GPT-6.2 Sol 和未来的模型都不支持 Flex,因此更换模型时一并迁移会更省事。

缓存和 Batch 可以同时使用吗?

可以。Claude 的倍率可以叠加,OpenAI 则为 Batch 提供缓存输入单价。将共享前置内容放在请求开头,更容易命中缓存。

更新记录

  • 2026年11月22日发布。

来源