В API с ИИ задачи, результаты которых не нужно получать сразу, можно отправлять по более низкой цене. OpenAI и Claude (Anthropic) предлагают для этого в общей сложности три механизма. Обе компании предоставляют Batch API (запросы отправляются группой, а результаты получаются позже); только OpenAI предлагает скидки на фоновые задачи в зависимости от временного окна; кроме того, OpenAI планирует свернуть Flex. Сначала в статье сравниваются Batch API обеих компаний по одним и тем же критериям, а затем описываются два варианта, доступных только в OpenAI. Также приводятся результаты измерений в нашем инструменте для перевода: сравнение Batch и обычных запросов в OpenAI.
Коротко о главном
Большой объем задач, выполняемых за один запрос
Скидка 50% с Batch API
И OpenAI, и Claude предлагают половинную цену на входные и выходные данные. Срок выполнения — 24 часа. По данным Anthropic, многие пакетные задания Claude выполняются в течение часа.
Задачи в OpenAI, которые могут подождать несколько часов
Выберите временное окно и получите скидку 30–40%
При отправке выберите окно на 2 часа (скидка 30%) или на 8 часов (скидка 40%). Скидка действует как для отдельного запроса, так и для последующих запросов с результатами вызова инструмента.
OpenAI Flex
Не используйте для новых задач
Для моделей GPT-6.2 этот режим недоступен, а OpenAI планирует завершить бета-тестирование. Если вы используете Flex сейчас, заранее решите, куда перенести нагрузку.
Проверено: 22 ноября 2026 года. Источники — официальные материалы OpenAI и Anthropic, указанные в конце каждого раздела.
1. Три механизма скидок для несрочных задач
Эти варианты различаются тем, как долго можно ждать и завершается ли задача за один запрос. Если выбирать только по размеру скидки, можно отправить через Batch задачу с последовательными вызовами инструментов и ждать завершения пакета после каждого такого вызова.
| Механизм | Поставщик | Скидка | Время ожидания | Способ отправки | Статус |
|---|---|---|---|---|---|
| Batch API | OpenAI · Anthropic (Claude) | 50% | Срок — 24 часаПо данным Anthropic, многие пакетные задания Claude выполняются в течение часа | Много запросов отправляются одной группой, результаты получаются позже | Доступен |
| Временные окна фоновой обработки | OpenAI | Окно на 2 часа: 30% · окно на 8 часов: 40% | Цель — завершить обработку в пределах выбранного окна | Запросы отправляются по одному; на последующие запросы с результатами вызова инструмента распространяется та же скидка | Открытая бета-версия |
| Flex | OpenAI | 50% (та же цена, что и у Batch) | Медленнее обычного, иногда недоступен | Добавьте service_tier: "flex" к обычному запросу | Постепенно выводится из эксплуатации · недоступен для GPT-6.2 |
Источники: OpenAI, «Batch API», «Background mode» и «Flex processing»; Anthropic, «Batch processing» (проверено 22 ноября 2026 года). В Gemini API от Google также есть Batch API: стоимость составляет 50% от обычной, целевой срок — 24 часа.
2. Сравнение Batch API от OpenAI и Claude
В обоих случаях запросы отправляются группой, а после завершения результаты можно получить все сразу. Скидка одинаковая — 50%, но способы отправки, ограничения и сроки хранения результатов различаются.
| Параметр | Batch API OpenAI | Message Batches API Claude |
|---|---|---|
| Скидка | 50% на входные и выходные данные | 50% на входные и выходные данные |
| Способ отправки | Загрузите файл JSONL, затем создайте пакет | Отправьте список запросов напрямую через API |
| Ограничение на один пакет | 50 000 запросов · входной файл размером 200 МБ | 100 000 запросов или 256 МБ — в зависимости от того, какое ограничение будет достигнуто раньше |
| Ограничения на создание и очередь | Можно создавать 2 000 пакетов в час; также действует ограничение для каждой модели на количество входных токенов, которые можно поставить в очередь на обработку (свое значение можно посмотреть в разделе Limits на панели управления) | Действуют ограничения частоты запросов для количества HTTP-запросов к Batches API и количества запросов в очереди на обработку (ограничения зависят от уровня использования) |
| Срок | 24 часа | 24 часа (по данным Anthropic, многие пакетные задания выполняются в течение часа) |
| Что происходит по истечении срока | По завершенным запросам возвращаются результаты и взимается плата (незавершенные запросы отменяются; в документации не указано, как за них взимается плата) | По завершенным запросам возвращаются результаты и взимается плата (за запросы, срок действия которых истек до отправки модели, плата не взимается; в документации не указано, что происходит с запросами, уже отправленными модели) |
| Проверка ошибок | Запросы с ошибками попадают в отдельный файл ошибок, отдельно от результатов | Тип результата — errored, плата за такой запрос не взимается (отмененные запросы помечаются как canceled, и за них также не взимается плата) |
| Получение результатов | Скачайте выходной файл и сопоставьте запросы по custom_id (порядок строк может отличаться от порядка во входном файле) | Результаты доступны после завершения всех запросов или через 24 часа; сопоставляйте запросы по custom_id |
| Хранение результатов | По умолчанию 30 дней (при создании пакета можно задать срок от 1 часа до 30 дней) | 29 дней после создания |
| Что не поддерживается | Запросы с параметром stream | stream · быстрый режим (speed) · резервные варианты на стороне сервера (fallbacks) · max_tokens: 0 |
| Сочетание с кэшированием | Для кэшированных входных данных в Batch предусмотрена отдельная цена (половина обычной цены) | Множители для кэша сочетаются со скидкой Batch |
Источники: OpenAI, «Batch API» (ограничения, истечение срока и файлы результатов) и «Pricing» (кэшированные входные данные); Anthropic, «Batch processing» (ограничения, типы результатов и неподдерживаемые параметры) и «Pricing» (сочетание скидок). Проверено 22 ноября 2026 года.
Ни один из поставщиков не гарантирует, что все запросы будут завершены в течение 24 часов. При работе с дедлайном отдельно спланируйте следующие два варианта действий.
- Отправить запросы повторно после истечения срока: Получите результаты и ошибки, затем распределите запросы по
custom_id. Исключите успешно выполненные запросы. Запросы без результата, с истекшим сроком действия или отмененные отправьте повторно в новом пакете либо как обычные запросы. Для запросов с ошибками сначала выясните и устраните причину (например, исправьте неверные входные данные). - Перейти на обычные запросы до истечения срока: Сначала отмените пакет и дождитесь завершения отмены (OpenAI помечает его как cancelled, Claude — как ended. В OpenAI выполнение запросов, находящихся в процессе обработки, может занять до 10 минут). Запросы, обработанные до отмены, будут завершены, а плата за них будет взиматься, поэтому получите их результаты и исключите их по
custom_id, а затем отправьте обычными запросами только оставшиеся. Если отправить их, не дождавшись отмены, за один и тот же запрос может быть списана двойная плата.
Заранее определите момент перехода: вычтите из срока время ожидания завершения отмены, получения и сверки результатов, обработки оставшихся запросов обычным способом и запас на повторные попытки.
Стоимость
| Модель | Обычная обработка (входные / выходные) | Batch (входные / выходные) |
|---|---|---|
| GPT-6.2 Astra | $8 / $40 | $4 / $20 |
| GPT-6.2 Sol | $2 / $10 | $1 / $5 |
| GPT-6.1 Terra | $1 / $5 | $0,50 / $2,50 |
| GPT-6 Luna | $0,10 / $0,50 | $0,05 / $0,25 |
| Claude Fable 5.2 | $8 / $40 | $4 / $20 |
| Claude Opus 5.5 | $4 / $20 | $2 / $10 |
| Claude Sonnet 5.5 | $2 / $10 | $1 / $5 |
| Claude Haiku 5.5 | $0,10 / $0,50 | $0,05 / $0,25 |
Доллары США за 1 млн токенов. Источники: OpenAI, «Pricing»; Anthropic, «Pricing» (проверено 22 ноября 2026 года). Длина входных данных, при которой меняется цена: для четырех моделей OpenAI в таблице длинные входные данные тарифицируются по повышенной ставке, если объем одного запроса превышает 272 000 токенов (то же правило действует для Batch). Для Claude Haiku 5.5 повышенная ставка применяется, если объем входных данных одного запроса превышает 100 000 токенов (для Batch — $0,25 / $1,25). Для трех остальных моделей Claude из таблицы цена не зависит от длины входных данных.
3. Временные окна фоновой обработки OpenAI — скидка распространяется и на вызовы инструментов
Добавьте background: true к запросу Responses API и выберите временное окно с помощью background_options.completion_window, чтобы снизить стоимость токенов модели. Размер скидки определяется временным окном, выбранным при отправке, а не фактическим временем обработки. Временное окно задает целевой срок завершения ответа на этот запрос.
| Временное окно | Скидка | Подходящий сценарий (пример OpenAI) |
|---|---|---|
soonest (по умолчанию) | Нет | Подготовка отчета, пока его ждет пользователь |
2h | На 30% дешевле обычной цены | Собрать утренние запросы к совещанию во второй половине дня |
8h | На 40% дешевле обычной цены | Прочитать документы за ночь и проверить их к следующему утру |
POST /v1/responses
{
"model": "gpt-6.1-terra",
"input": "(Документы для чтения и инструкции)",
"background": true,
"service_tier": "default",
"background_options": { "completion_window": "8h" }
}
Источники: OpenAI, «Background mode» и «Pricing» (проверено 22 ноября 2026 года). Пример выше — минимальная версия примера OpenAI о «проверке документов за ночь».
- Поддерживаемые модели: GPT-6.2 Astra · GPT-6.2 Sol · GPT-6.1 Terra · GPT-6 Luna. Открытая бета-версия.
- Требования: Задайте для
service_tierзначениеdefault(стандартная обработка). При значенииautoскидка действует только в том случае, если выбрана стандартная обработка. Не используйтеstream. - Получение результатов: Сохраните ID возвращенного ответа, используйте webhook
response.completed, чтобы узнать о завершении, и получите ответ по ID. Если использовать webhook нельзя, проверяйте состояние по тому же ID. - Последующие запросы: Когда модель вызывает инструмент, отправьте следующий запрос с результатом его работы. Если отправить этот следующий запрос с временным окном, на него также будет распространяться скидка. Кроме того, если для той же модели, временного окна и проекта использовать одинаковый
continuation_id, заданный приложением, последующие запросы с большей вероятностью получат приоритет при обработке. Временное окно задает целевой срок для каждого запроса, а не для всего процесса. Общее время равно сумме ожидания каждого запроса и времени, которое приложение тратит на выполнение инструментов. - Кэширование работает отдельно: Кэши промптов, созданные запросами с временным окном, недоступны обычным запросам за пределами этого окна. Кэш не будет использован, даже если содержимое совпадает.
- Ограничения очереди: Для запросов с окнами на 2 и 8 часов действует то же ограничение, что и для Batch API: на количество входных токенов, которое можно поставить в очередь на обработку.
- Хранение: Фоновая обработка временно сохраняет данные ответа, даже если для
storeзадано значение false.
В таблице цен Messages API Claude, которую мы проверили 22 ноября 2026 года, не упоминается механизм снижения стоимости за счет временных окон. В этой статье в качестве вариантов для Claude рассматриваются Batch API и кэширование промптов.
4. OpenAI Flex — не используйте для новых задач
Чтобы воспользоваться Flex, добавьте service_tier: "flex" к обычному запросу. Взамен на более медленные ответы и периодическую недоступность вы получите ту же цену, что и в Batch. Согласно рекомендациям OpenAI по состоянию на 22 ноября 2026 года, статус такой:
- Поддерживаемые модели: Режим пока доступен для моделей, для которых в таблице цен указана стоимость Flex (в том числе GPT-6 Astra · GPT-6.1 Sol · GPT-6.1 Terra · GPT-6 Luna).
- Неподдерживаемые модели: GPT-6.2 Astra · GPT-6.2 Sol. Не используйте его и с будущими моделями.
- Планы: Бета-версию планируют завершить.
- Дата завершения: Не объявлена. OpenAI сообщает, что после принятия решения добавит дату и инструкции по переходу на страницу документации.
Источник: OpenAI, «Flex processing» (проверено 22 ноября 2026 года).
Если вы сейчас используете Flex, выбирайте, куда перенести нагрузку, в следующем порядке.
- Запишите, когда для каждой задачи нужен ответ (через несколько минут, несколько часов или на следующий день) и нужны ли потоковая передача или последовательные вызовы инструментов.
- Если нужна потоковая передача, остаются только обычные запросы и кэширование (ни Batch, ни временные окна не поддерживают потоковую передачу). Если задача завершается за один запрос и до истечения срока в 24 часа остается время на повторную отправку, используйте Batch API. Если 24 часа ждать нельзя, но можно подождать несколько часов, используйте временное окно (2 или 8 часов) независимо от того, используются ли инструменты; это целевые сроки для каждого запроса, а не гарантия. Если задача включает последовательные вызовы инструментов, дополнительно оцените, укладывается ли в дедлайн полное время от первого запроса до последнего ответа, включая ожидание каждого запроса по порядку и время выполнения инструментов. Если нет, используйте обычные запросы.
- Отправьте небольшое количество запросов с выбранным вариантом, а затем сравните с текущим вариантом Flex стоимость, время ожидания и необходимые функции, чтобы убедиться, что они укладываются в дедлайн, и только потом переключайтесь.
5. Можно ли сочетать скидку с кэшированием?
Если задача многократно отправляет один и тот же префикс (инструкции или материалы), стоимость зависит и от того, можно ли сочетать скидку за кэширование промптов с другой скидкой.
| Механизм | Сочетание с кэшированием |
|---|---|
| Batch в OpenAI | Сочетается. В таблице цен Batch есть отдельная ставка для кэшированных входных данных — половина ставки для кэшированных входных данных при обычной обработке (для GPT-6.2 Sol — $0,10 → $0,05 за 1 млн токенов) |
| Batch в Claude | Сочетается. Множители для записи и чтения кэша суммируются со скидкой Batch 50% (с учетом срока хранения Anthropic рекомендует использовать часовой кэш для общих префиксов, поскольку обработка в Batch может длиться дольше 5 минут) |
| Временные окна OpenAI | Доступность: между запросами с временными окнами (не совместно с обычными запросами за пределами временного окна). Стоимость: в таблице цен не указана ставка для кэшированных входных данных в запросах с временными окнами (проверено 22 ноября 2026 года) |
| Flex в OpenAI | Применяется ставка для кэшированных входных данных из таблицы цен Flex (для GPT-6.1 Sol — $0,05 за 1 млн токенов; это не дополнительная скидка сверх цены Batch) |
Источники: OpenAI, «Pricing», «Background mode» и «Flex processing»; Anthropic, «Batch processing» и «Pricing» (проверено 22 ноября 2026 года).
Подробнее о принципах работы кэширования и причинах, по которым кэш может не сработать, читайте в статье «Чем отличается кэширование промптов в OpenAI и Claude».
6. Практические измерения: стоимость и время для Batch и обычных запросов в OpenAI
Наш сайт использует API для подготовки черновых переводов статей. 22 ноября 2026 года мы перевели одну и ту же статью с помощью GPT-6 Luna от OpenAI (усилие рассуждения: medium), используя обычные запросы и Batch, а затем сравнили зафиксированные нашим инструментом стоимость и время. Сначала текст переводится на английский, а затем английская версия используется как образец для перевода на другие языки. Префикс каждого запроса (инструкции и исходный текст) составляет около 15 000 токенов для английского и около 23 000 токенов для других языков. В тот день мы не измеряли Claude Batch.
В этом тесте стоимость снизилась почти вдвое, а ожидание увеличилось на несколько минут. Структура HTML переводов (количество заголовков, таблиц и ссылок) совпала с японским оригиналом, как и при обычных запросах. Это была проверка структуры; качество перевода проверялось отдельно.
В качестве примера полного процесса: если дождаться английского перевода и только потом отправить запросы для остальных языков, работу нужно разделить на два пакета. Второй пакет, в котором вместе отправлялись переводы на испанский и китайский, обрабатывался 154 секунды, а для китайского запроса из кэша было прочитано около 23 000 токенов префикса. Общее время для английского, испанского и китайского переводов составило около 6 минут 40 секунд (это не сравнение с обычными запросами).
Результаты небольших тестов с 1–2 запросами; время обработки зависит от нагрузки в конкретный день. Большие пакеты и высокая нагрузка могут увеличить время ожидания.
7. Что выбрать? Четыре вопроса
Окна на 2 и 8 часов — целевые сроки завершения каждого запроса, а не гарантия. Для задач с жесткими дедлайнами выбирайте обычные запросы, а не скидку. В проверенной нами таблице цен Claude не упоминается скидка за временное окно, поэтому при обработке через Batch задачи с последовательными вызовами инструментов придется ждать завершения каждого пакета между вызовами. Для задач, которым нужна потоковая передача, используйте обычные запросы у любой из компаний.
Перед выбором скидки полезно проверить на типичных входных данных, может ли более дешевая модель соответствовать вашим требованиям к качеству. Разница в стоимости моделей часто превышает размер скидки; например, ставка GPT-6 Luna в таблице выше в 20 раз ниже ставки GPT-6.2 Sol. Советы по выбору модели собраны в статье «Как сократить расходы на ИИ и токены».
Итоги
Если результаты не нужно получать сразу, Batch API вдвое снижает стоимость и в OpenAI, и в Claude. Срок составляет 24 часа, но ни один из поставщиков не гарантирует завершение всех запросов. За запросы, завершенные в срок, взимается плата. Запросы без результата нужно отправить повторно, а перед повторной отправкой запросов с ошибками следует устранить их причину. В OpenAI также можно использовать выбранные при отправке временные окна на 2 часа (скидка 30%) и 8 часов (скидка 40%) для задач с последовательными вызовами инструментов. Flex недоступен для GPT-6.2 и планируется к выводу из эксплуатации, поэтому не используйте его для новых задач. В обеих компаниях скидки Batch можно сочетать со скидками за кэширование общих префиксов.
FAQ
Сколько времени занимает получение результатов Batch?
Срок составляет 24 часа и для OpenAI, и для Claude, но ни одна из компаний не гарантирует завершение всех запросов за это время. По данным Anthropic, многие пакетные задания завершаются в течение часа. В нашем небольшом тесте (OpenAI, 1–2 запроса) результаты поступили через 2–4 минуты после отправки.
Взимается ли плата за запросы, не завершившиеся за 24 часа?
Оба поставщика взимают плату за запросы, завершенные в срок. В документации описано следующее для незавершенных запросов. OpenAI сообщает только, что они отменяются, но не уточняет, взимается ли за них плата. Claude указывает, что плата не взимается за запросы, срок действия которых истек до отправки модели, но не уточняет, что происходит с запросами, срок действия которых истек после отправки модели. Claude также не взимает плату за запросы с ошибками или отмененные запросы.
Я использую Flex. Как долго я еще смогу им пользоваться?
По состоянию на 22 ноября 2026 года дата завершения не объявлена. OpenAI сообщает, что после принятия решения укажет дату и инструкции по переходу на странице документации Flex. Flex недоступен для GPT-6.2 Astra, GPT-6.2 Sol и будущих моделей, поэтому проще перейти на другой вариант одновременно со сменой модели.
Можно ли одновременно использовать кэширование и Batch?
Да. В Claude множители сочетаются, а в OpenAI для Batch предусмотрена отдельная ставка для кэшированных входных данных. Если помещать общие префиксы в начало запросов, вероятность их кэширования повышается.
История обновлений
- 22 ноября 2026 годаОпубликовано.
Источники
- OpenAI, «Batch API», «Background mode», «Flex processing» и «Pricing»
- Anthropic, «Batch processing» и «Pricing»
- Google, «Batch API»