Avec les API d’IA, vous pouvez envoyer à moindre coût les tâches dont les résultats n’ont pas besoin d’être renvoyés immédiatement. OpenAI et Claude (Anthropic) proposent au total trois mécanismes pour cela. Les deux entreprises proposent la Batch API (envoyer des requêtes groupées et recevoir les résultats plus tard) ; OpenAI est la seule à proposer des fenêtres tarifaires réduites pour le traitement en arrière-plan ; et OpenAI s’oriente vers l’arrêt de Flex. Cet article compare d’abord les Batch API des deux entreprises selon les mêmes critères, puis présente les deux options réservées à OpenAI. Il comprend également des mesures réalisées avec l’outil de traduction de notre site pour comparer OpenAI Batch aux requêtes classiques.
En bref
Un grand nombre de tâches en une seule requête
50 % de réduction avec la Batch API
OpenAI et Claude proposent tous deux une réduction de moitié sur les entrées et les sorties. Le délai est de 24 heures. Selon Anthropic, de nombreux lots Claude se terminent en moins d’une heure.
Tâches sur OpenAI pouvant attendre quelques heures
Choisissez une fenêtre pour économiser 30 à 40 %
Choisissez une fenêtre de 2 heures (30 % de réduction) ou de 8 heures (40 % de réduction) au moment de l’envoi. La réduction s’applique aussi bien à une requête unique qu’aux requêtes suivantes qui renvoient les résultats des outils.
OpenAI Flex
Ne l’utilisez pas pour de nouveaux développements
Flex n’est pas disponible avec les modèles GPT-6.2 et OpenAI s’oriente vers la fin de la bêta. Si vous l’utilisez actuellement, décidez vers quelle solution migrer votre charge de travail.
Vérifié le 22 novembre 2026. Les sources sont les documents officiels d’OpenAI et d’Anthropic cités à la fin de chaque section.
1. Trois mécanismes de réduction pour les tâches non urgentes
Les trois options se distinguent par le temps que vous pouvez attendre et par le fait qu’une tâche se termine ou non en une seule requête. Si vous choisissez uniquement en fonction du montant de la réduction, vous risquez de traiter avec Batch une tâche impliquant des allers-retours avec des outils et de devoir attendre à chaque étape.
| Mécanisme | Fournisseur | Réduction | Temps d’attente | Mode d’envoi | État |
|---|---|---|---|---|---|
| Batch API | OpenAI · Anthropic (Claude) | 50 % | Délai de 24 heuresSelon Anthropic, de nombreux lots Claude se terminent en moins d’une heure | Regrouper de nombreuses requêtes dans un seul envoi et recevoir les résultats plus tard | Disponible |
| Fenêtres de traitement en arrière-plan | OpenAI | Fenêtre de 2 heures : 30 % · fenêtre de 8 heures : 40 % | Objectif : terminer dans la fenêtre sélectionnée | Envoyer les requêtes une par une ; les requêtes suivantes qui renvoient les résultats des outils bénéficient de la même réduction | Bêta publique |
| Flex | OpenAI | 50 % (même tarif que Batch) | Plus lent que d’habitude et parfois indisponible | Ajouter service_tier: "flex" à une requête classique | En cours d’abandon · indisponible avec GPT-6.2 |
Sources : OpenAI, « Batch API », « Background mode » et « Flex processing » ; Anthropic, « Batch processing » (vérifiés le 22 novembre 2026). L’API Gemini de Google propose également une Batch API, dont le coût représente 50 % du tarif classique, avec un délai cible de 24 heures.
2. Comparaison des Batch API d’OpenAI et de Claude
Les deux permettent d’envoyer des requêtes groupées et de recevoir tous les résultats ensemble une fois le traitement terminé. La réduction est la même, soit 50 %, mais les modes d’envoi, les limites et la durée de conservation des résultats diffèrent.
| Élément | OpenAI Batch API | Claude Message Batches API |
|---|---|---|
| Réduction | 50 % sur les entrées et les sorties | 50 % sur les entrées et les sorties |
| Mode d’envoi | Importer un fichier JSONL, puis créer un lot | Envoyer directement une liste de requêtes via l’API |
| Limite par lot | 50 000 requêtes · fichier d’entrée de 200 Mo | 100 000 requêtes ou 256 Mo, selon la limite atteinte en premier |
| Limites de création et de file d’attente | Vous pouvez créer 2 000 lots par heure. Il existe également une limite propre à chaque modèle sur le nombre de jetons d’entrée pouvant être mis en file d’attente pour traitement (consultez votre valeur dans Limits du tableau de bord) | Des limites de débit s’appliquent au nombre de requêtes HTTP envoyées à la Batches API et au nombre de requêtes en attente de traitement (les limites varient selon le niveau d’utilisation) |
| Délai | 24 heures | 24 heures (selon Anthropic, de nombreux lots se terminent en moins d’une heure) |
| À l’expiration du délai | Les requêtes terminées renvoient leurs résultats et sont facturées (les requêtes non terminées sont annulées ; la documentation ne précise pas leur mode de facturation) | Les requêtes terminées renvoient leurs résultats et sont facturées (les requêtes qui expirent avant d’être envoyées au modèle ne sont pas facturées ; la documentation ne précise pas le traitement des requêtes déjà envoyées au modèle) |
| Vérification des erreurs | Les requêtes en erreur apparaissent dans un fichier d’erreurs séparé du fichier de sortie | Le type de résultat est errored et la requête n’est pas facturée (les requêtes annulées sont marquées canceled et ne sont pas facturées non plus) |
| Récupération des résultats | Télécharger le fichier de sortie et associer les requêtes à l’aide de custom_id (l’ordre des lignes peut différer de celui des entrées) | Les résultats sont disponibles une fois toutes les requêtes terminées ou après 24 heures ; associez les requêtes à l’aide de custom_id |
| Conservation des résultats | 30 jours par défaut (vous pouvez choisir une durée de 1 heure à 30 jours lors de la création du lot) | 29 jours après la création |
| Éléments non pris en charge | Requêtes avec stream | stream · mode rapide (speed) · solutions de repli côté serveur (fallbacks) · max_tokens: 0 |
| Cumul avec la mise en cache | Batch propose un tarif pour les entrées en cache (la moitié du tarif classique) | Les multiplicateurs de cache se cumulent avec la réduction Batch |
Sources : OpenAI, « Batch API » (limites, expiration et fichiers de résultats) et « Pricing » (entrées en cache) ; Anthropic, « Batch processing » (limites, types de résultats et paramètres non pris en charge) et « Pricing » (cumul des réductions). Vérifiés le 22 novembre 2026.
Aucun des deux fournisseurs ne garantit que toutes les requêtes seront terminées dans les 24 heures. Pour les tâches avec une échéance, prévoyez séparément les deux procédures suivantes.
- Renvoyer les requêtes après le délai : récupérez les résultats et les erreurs, puis triez-les par requête à l’aide de
custom_id. Excluez les requêtes réussies. Renvoyez les requêtes sans résultat, expirées ou annulées dans un nouveau lot ou comme requêtes classiques. Pour les requêtes en erreur, identifiez et corrigez la cause (par exemple une entrée invalide) avant de les renvoyer. - Passer aux requêtes classiques avant le délai : annulez d’abord le lot et attendez la fin de l’annulation (OpenAI indique cancelled ; Claude indique ended. Pour OpenAI, les requêtes en cours peuvent prendre jusqu’à 10 minutes à se terminer). Les requêtes traitées avant l’annulation sont terminées et facturées : récupérez leurs résultats et excluez-les à l’aide de
custom_id, puis envoyez uniquement les requêtes restantes sous forme de requêtes classiques. Si vous envoyez les requêtes sans attendre la fin de l’annulation, vous risquez de payer deux fois pour la même requête.
Décidez à l’avance du moment où vous allez basculer en retranchant de l’échéance le temps nécessaire à l’attente de l’annulation, à la récupération et au rapprochement des résultats, au traitement des requêtes restantes comme requêtes classiques, ainsi qu’une marge pour les nouvelles tentatives.
Tarifs
| Modèle | Classique (entrée / sortie) | Batch (entrée / sortie) |
|---|---|---|
| GPT-6.2 Astra | 8 $ / 40 $ | 4 $ / 20 $ |
| GPT-6.2 Sol | 2 $ / 10 $ | 1 $ / 5 $ |
| GPT-6.1 Terra | 1 $ / 5 $ | 0,50 $ / 2,50 $ |
| GPT-6 Luna | 0,10 $ / 0,50 $ | 0,05 $ / 0,25 $ |
| Claude Fable 5.2 | 8 $ / 40 $ | 4 $ / 20 $ |
| Claude Opus 5.5 | 4 $ / 20 $ | 2 $ / 10 $ |
| Claude Sonnet 5.5 | 2 $ / 10 $ | 1 $ / 5 $ |
| Claude Haiku 5.5 | 0,10 $ / 0,50 $ | 0,05 $ / 0,25 $ |
Dollars américains par million de jetons. Sources : OpenAI, « Pricing » ; Anthropic, « Pricing » (vérifiés le 22 novembre 2026). Longueur d’entrée à partir de laquelle le tarif change : pour les quatre modèles OpenAI du tableau, les entrées dépassant 272 000 jetons par requête sont facturées au tarif des entrées longues (cela s’applique également à Batch). Pour Claude Haiku 5.5, les entrées dépassant 100 000 jetons par requête sont facturées à un tarif plus élevé (0,25 $ / 1,25 $ avec Batch). Pour les trois autres modèles Claude du tableau, le tarif ne varie pas en fonction de la longueur de l’entrée.
3. Fenêtres de traitement en arrière-plan d’OpenAI : des réductions également pour les allers-retours avec des outils
Ajoutez background: true à une requête Responses API et sélectionnez une fenêtre avec background_options.completion_window pour réduire le tarif des jetons du modèle. La réduction dépend de la fenêtre sélectionnée lors de l’envoi, et non du temps réellement nécessaire. La fenêtre correspond à un délai cible pour terminer la réponse à cette requête.
| Fenêtre | Réduction | Utilisation adaptée (exemple d’OpenAI) |
|---|---|---|
soonest (par défaut) | Aucune | Générer un rapport pendant qu’une personne attend |
2h | 30 % de moins que le tarif classique | Rassembler les demandes du matin avant une réunion l’après-midi |
8h | 40 % de moins que le tarif classique | Lire des documents pendant la nuit et les vérifier le lendemain matin |
POST /v1/responses
{
"model": "gpt-6.1-terra",
"input": "(Documents à lire et instructions)",
"background": true,
"service_tier": "default",
"background_options": { "completion_window": "8h" }
}
Sources : OpenAI, « Background mode » et « Pricing » (vérifiés le 22 novembre 2026). L’exemple ci-dessus est une version minimale de l’exemple d’OpenAI consacré à la « vérification de documents pendant la nuit ».
- Modèles pris en charge : GPT-6.2 Astra · GPT-6.2 Sol · GPT-6.1 Terra · GPT-6 Luna. Bêta publique.
- Conditions : définissez
service_tiersurdefault(traitement standard). Avecauto, la réduction s’applique uniquement lorsque le traitement standard est sélectionné. N’utilisez passtream. - Réception des résultats : enregistrez l’ID de la réponse renvoyée, utilisez le webhook
response.completedpour savoir quand elle est terminée, puis récupérez la réponse par son ID. Si vous ne pouvez pas utiliser de webhooks, vérifiez son état avec le même ID. - Requêtes suivantes : lorsque le modèle appelle un outil, envoyez une autre requête avec le résultat de cet outil. Si vous envoyez cette requête suivante avec une fenêtre, elle bénéficie également de la réduction. De plus, utiliser le même
continuation_id, choisi par votre application pour le même modèle, la même fenêtre et le même projet, augmente les chances que les requêtes suivantes soient traitées en priorité. La fenêtre est un objectif pour chaque requête, pas pour l’ensemble du processus. Le temps total écoulé correspond à la somme du temps d’attente pour chaque requête et du temps que votre application met à exécuter les outils. - La mise en cache est traitée séparément : les caches de prompts créés par les requêtes avec fenêtre ne sont pas accessibles aux requêtes classiques effectuées en dehors de cette fenêtre. Le cache ne sera pas utilisé, même si le contenu est identique.
- Limites de file d’attente : les requêtes avec une fenêtre de 2 ou 8 heures partagent avec la Batch API la même limite sur le nombre de jetons d’entrée pouvant être mis en file d’attente pour traitement.
- Stockage : le traitement en arrière-plan stocke temporairement les données de réponse même si
storeest défini sur false.
Le tableau des tarifs de l’API Messages de Claude que nous avons consulté le 22 novembre 2026 ne mentionne aucun mécanisme de réduction tarifaire basé sur des fenêtres comme celui-ci. Cet article compare la Batch API et la mise en cache des prompts parmi les options proposées par Claude.
4. OpenAI Flex : ne l’utilisez pas pour de nouveaux développements
Avec Flex, ajoutez service_tier: "flex" à une requête classique pour bénéficier du même tarif que Batch, en contrepartie de réponses plus lentes et d’indisponibilités occasionnelles. Selon la documentation d’OpenAI au 22 novembre 2026, la situation est la suivante.
- Modèles pris en charge : toujours disponible pour les modèles dont le tableau des tarifs indique un prix Flex (notamment GPT-6 Astra · GPT-6.1 Sol · GPT-6.1 Terra · GPT-6 Luna).
- Modèles non pris en charge : GPT-6.2 Astra · GPT-6.2 Sol. Ne l’utilisez pas non plus avec les futurs modèles.
- Politique : la bêta est en cours d’abandon.
- Date de fin : non annoncée. OpenAI indique que la date et les instructions de migration seront ajoutées à la page de documentation une fois la décision prise.
Source : OpenAI, « Flex processing » (vérifié le 22 novembre 2026).
Si vous utilisez actuellement Flex, décidez dans cet ordre vers quelle solution migrer votre charge de travail.
- Notez quand vous avez besoin de recevoir la réponse pour chaque tâche (dans quelques minutes, quelques heures ou le lendemain) et si vous avez besoin du streaming ou d’allers-retours avec des outils.
- Si vous avez besoin du streaming, les seules options sont les requêtes classiques et la mise en cache (ni Batch ni les fenêtres ne prennent en charge le streaming). Si la tâche se termine en une seule requête et que vous avez le temps de réessayer dans le délai de 24 heures, utilisez la Batch API. Si vous ne pouvez pas attendre 24 heures, mais pouvez attendre quelques heures, utilisez une fenêtre (2 ou 8 heures), qu’il y ait ou non des outils ; il s’agit d’objectifs pour chaque requête, pas de garanties. En cas d’allers-retours avec des outils, estimez également si l’échéance permet de couvrir le temps total entre la première requête et la réponse finale, en comptant le temps d’attente de chaque requête, exécutée dans l’ordre, ainsi que le temps nécessaire à l’exécution des outils. Si ce n’est pas le cas, utilisez des requêtes classiques.
- Testez un petit nombre de requêtes avec l’option envisagée, puis comparez le coût, le temps d’attente et les fonctionnalités nécessaires au regard de l’échéance et de votre configuration Flex actuelle avant de basculer.
5. La réduction peut-elle se cumuler avec la mise en cache ?
Pour les tâches qui envoient à plusieurs reprises le même préambule (instructions ou documents), le coût peut encore varier selon que la réduction liée à la mise en cache des prompts peut ou non se cumuler avec l’autre réduction.
| Mécanisme | Cumul avec la mise en cache |
|---|---|
| OpenAI Batch | Le cumul est possible. Les tarifs Batch comprennent un tarif pour les entrées en cache, qui correspond à la moitié du tarif des entrées en cache en traitement classique (pour GPT-6.2 Sol, 0,10 $ → 0,05 $ par million de jetons) |
| Claude Batch | Le cumul est possible. Les multiplicateurs d’écriture et de lecture du cache se cumulent avec la réduction Batch de 50 % (pour la durée de conservation, Anthropic recommande d’utiliser un cache d’une heure pour les préambules communs, car le traitement Batch peut prendre plus de 5 minutes) |
| Fenêtres OpenAI | Disponibilité : entre les requêtes avec fenêtre (pas de partage avec les requêtes classiques effectuées en dehors d’une fenêtre). Tarification : le tableau des tarifs ne précise pas de tarif pour les entrées en cache des requêtes avec fenêtre (vérifié le 22 novembre 2026) |
| OpenAI Flex | Le tarif des entrées en cache indiqué pour Flex s’applique (pour GPT-6.1 Sol, 0,05 $ par million de jetons ; il ne s’agit pas d’une réduction supplémentaire par rapport au tarif Batch) |
Sources : OpenAI, « Pricing », « Background mode » et « Flex processing » ; Anthropic, « Batch processing » et « Pricing » (vérifiés le 22 novembre 2026).
Pour en savoir plus sur le fonctionnement de la mise en cache et sur les causes d’échec d’une correspondance avec le cache, consultez « Différences entre la mise en cache des prompts d’OpenAI et de Claude ».
6. Mesures : coût et durée d’OpenAI Batch par rapport aux requêtes classiques
Notre site utilise des API pour produire des premières traductions d’articles. Le 22 novembre 2026, nous avons traduit le même article avec GPT-6 Luna d’OpenAI (effort de raisonnement : medium), en utilisant des requêtes classiques et Batch, puis comparé le coût et la durée enregistrés par notre outil. Le processus commence par la traduction en anglais, puis utilise la version anglaise comme référence pour les autres langues. Le préambule (instructions et texte source) de chaque requête représente environ 15 000 jetons en anglais et environ 23 000 jetons dans les autres langues. Nous n’avons pas mesuré Claude Batch ce jour-là.
Lors de ce test, le coût a presque été divisé par deux, tandis que l’attente a augmenté de quelques minutes. La structure HTML des traductions (nombre de titres, de tableaux et de liens) correspondait à celle de la source japonaise, comme avec les requêtes classiques. Il s’agissait d’une vérification de la structure ; la qualité de la traduction a été vérifiée séparément.
À titre d’exemple pour le processus complet, lorsque nous attendons la traduction anglaise avant d’envoyer les autres langues, il faut répartir le travail sur deux lots. Le deuxième lot, qui regroupait les traductions espagnole et chinoise, a pris 154 secondes ; la requête en chinois a lu environ 23 000 jetons du préambule depuis le cache. Le temps total pour l’anglais, l’espagnol et le chinois était d’environ 6 minutes et 40 secondes (il ne s’agit pas d’une comparaison avec des requêtes classiques).
Résultats de petits tests avec 1 à 2 requêtes ; la durée de traitement varie selon la charge du jour. Les lots plus importants et les périodes de forte activité peuvent prendre plus de temps.
7. Quelle option choisir ? Quatre questions
Les fenêtres de 2 et 8 heures sont des objectifs de fin pour chaque requête, pas des garanties. Pour les tâches avec des échéances serrées, privilégiez les requêtes classiques plutôt que la réduction. Le tableau des tarifs Claude que nous avons consulté ne mentionne pas de réduction liée aux fenêtres ; si vous traitez avec Batch une tâche impliquant des allers-retours avec des outils, vous devrez donc attendre la fin de chaque lot entre les étapes. Pour les tâches qui nécessitent le streaming, utilisez des requêtes classiques, quel que soit le fournisseur.
Avant de choisir une réduction, vous pouvez gagner beaucoup en vérifiant sur des entrées représentatives si un modèle moins coûteux peut tout de même répondre à vos exigences de qualité. Les différences de tarifs entre modèles sont souvent plus importantes que les réductions ; par exemple, le tarif de GPT-6 Luna dans le tableau ci-dessus représente un vingtième de celui de GPT-6.2 Sol. Consultez « Comment réduire les coûts d’utilisation de l’IA et des jetons » pour savoir comment choisir un modèle.
En résumé
Pour les tâches dont les résultats n’ont pas besoin d’être renvoyés immédiatement, la Batch API divise les tarifs par deux, aussi bien pour OpenAI que pour Claude. Le délai est de 24 heures et aucun des deux fournisseurs ne garantit que toutes les requêtes seront terminées. Les requêtes terminées avant l’échéance sont facturées. Renvoyez les requêtes qui n’ont pas fourni de résultats et corrigez la cause des erreurs avant de renvoyer les requêtes concernées. OpenAI propose aussi des fenêtres de 2 heures (30 % de réduction) et de 8 heures (40 % de réduction), sélectionnées au moment de l’envoi, qui peuvent être utilisées pour les tâches impliquant des allers-retours avec des outils. Flex n’est pas disponible avec GPT-6.2 et est en cours d’abandon ; ne l’utilisez donc pas pour de nouvelles tâches. Chez les deux entreprises, les réductions Batch peuvent se cumuler avec celles de la mise en cache des préambules communs.
FAQ
Combien de temps faut-il à Batch pour renvoyer les résultats ?
Le délai est de 24 heures pour OpenAI comme pour Claude, et aucun des deux ne garantit que toutes les requêtes seront terminées dans ce délai. Selon Anthropic, de nombreux lots se terminent en moins d’une heure. Lors de notre petit test (OpenAI, 1 à 2 requêtes), les résultats ont été reçus 2 à 4 minutes après l’envoi.
Les requêtes qui ne sont pas terminées dans les 24 heures sont-elles quand même facturées ?
Les deux fournisseurs facturent les requêtes terminées avant l’échéance. D’après les informations figurant dans leur documentation, les requêtes inachevées sont traitées comme suit. OpenAI indique uniquement qu’elles sont annulées, sans préciser leur mode de facturation. Claude précise que les requêtes qui expirent avant d’être envoyées au modèle ne sont pas facturées, mais ne précise pas le traitement des requêtes qui expirent après avoir été envoyées. Claude ne facture pas non plus les requêtes en erreur ou annulées.
J’utilise Flex. Jusqu’à quand pourrai-je continuer ?
Au 22 novembre 2026, aucune date de fin n’a été annoncée. OpenAI indique que la date et les instructions de migration seront ajoutées à la page de documentation Flex une fois la décision prise. Flex n’est pas disponible pour GPT-6.2 Astra, GPT-6.2 Sol ni les futurs modèles ; il est donc plus simple de migrer en même temps que vous changez de modèle.
Peut-on utiliser la mise en cache et Batch en même temps ?
Oui. Les multiplicateurs se cumulent pour Claude, et OpenAI propose un tarif pour les entrées en cache avec Batch. Placer les préambules communs au début des requêtes augmente les chances qu’ils soient mis en cache.
Historique des mises à jour
- 22 novembre 2026Publication.
Sources
- OpenAI, « Batch API », « Background mode », « Flex processing » et « Pricing »
- Anthropic, « Batch processing » et « Pricing »
- Google, « Batch API »