Le prix d’un niveau fixe de performance IA a chuté d’environ 1,000x en trois ans (a16z, LLMflation 2024) — une sortie de qualité GPT-3 qui coûtait $60 par million de tokens fin 2021 se vendait à $0.06 fin 2024. Le AI Index 2025 de Stanford HAI a mesuré une chute de 280 fois pour une qualité équivalente à GPT-3.5 en environ 18 mois (Stanford HAI, AI Index 2025). Epoch AI suit un déclin médian proche de 50x par an entre les benchmarks, s’accélérant à 200x par an depuis janvier 2024 (Epoch AI, LLM Inference Price Trends 2025). Pourtant, les dépenses totales grimpent dans l’autre sens : The Information a rapporté que la facture d’inférence 2025 d’OpenAI avoisinait $8.4 billion, environ quatre fois celle de l’année précédente. Cette analyse rassemble des données d’Epoch AI, Stanford HAI, a16z, Google, NVIDIA, Menlo Ventures et 12 autres sources primaires sur l’état de l’économie de l’inférence à la mi-2026.
TL;DR
- La sortie équivalente à GPT-3 est passée de $60 par million de tokens en 2021 à $0.06 en 2024, une chute de 1,000x (a16z, LLMflation 2024).
- Interroger une qualité équivalente à GPT-3.5 est passé de $20 à $0.07 par million de tokens, une réduction de 280 fois en environ 18 mois (Stanford HAI, AI Index 2025).
- Le déclin prix-performance entre benchmarks va de 9x à 900x par an ; médiane de 50x, montant à 200x depuis janvier 2024 (Epoch AI, 2025).
- Le progrès isolé de l’efficacité algorithmique tourne à environ 3x par an, en plus des gains matériels (The Price of Progress, arXiv 2025).
- La location à la demande moyenne du marché pour la NVIDIA H100 était d’environ $3.61 par heure de GPU sur 42 fournisseurs en 2026 (getdeploying, 2026).
- La GB300 NVL72 de NVIDIA a atteint $0.12 par million de tokens, décrit comme un coût par token 35x inférieur à Hopper (NVIDIA, InferenceMAX 2025).
- Google a traité 3.2 quadrillion tokens par mois d’ici mi-2026, environ 7x sur un an (Google I/O 2026).
- Les dépenses d’entreprise en API LLM ont doublé de $3.5 billion à $8.4 billion en six mois (Menlo Ventures, 2025).
- Le coût d’inférence 2025 d’OpenAI a atteint environ $8.4 billion, environ 4x celui de l’année précédente (The Information, 2025).
- L’infrastructure combinée entraînement-plus-inférence a été évaluée à $251 billion en 2025, croissant à $672 billion d’ici 2029 (Bloomberg Intelligence, via Cerebras S-1 2026).
- La requête textuelle médiane sur Gemini utilise 0.24 wattheure, en baisse de 33x en 12 mois (Google, 2025).
1. L’Effondrement des Prix pour une Performance Équivalente
Le chiffre phare de l’économie de l’inférence n’est pas un prix isolé — c’est la pente. Pour une barre de qualité fixe, le coût d’exécution d’un modèle se réduit de moitié à l’échelle de mois, pas d’années, et la chute s’est accentuée depuis début 2024. La divergence entre benchmarks compte : la qualité commodity bon marché chute le plus vite, tandis que la qualité de raisonnement de pointe maintient son prix. Epoch AI mesure un déclin médian de 50x par an, bondissant à 200x par an lorsqu’on se limite aux données depuis janvier 2024. Le plancher continue de baisser parce que trois forces se cumulent : la concurrence, un meilleur silicium et de meilleurs algorithmes. En isolant ce dernier facteur, une équipe de recherche a situé l’efficacité algorithmique pure à environ 3x par an.
| Métrique | Valeur | Source |
|---|---|---|
| Prix de qualité équivalente à GPT-3 (MMLU ~42) | $60/M tokens (Nov 2021) to $0.06/M (2024), a 1,000x drop | a16z, LLMflation (2024) |
| Taux LLMflation pour performance égale | ~10x cheaper per year | a16z, LLMflation (2024) |
| Prix de qualité équivalente à GPT-3.5 (MMLU 64.8%) | $20/M (Nov 2022) to $0.07/M (Oct 2024), 280-fold | Stanford HAI, AI Index (2025) |
| Déclin prix-performance entre benchmarks | 9x to 900x per year; median 50x | Epoch AI, Inference Price Trends (2025) |
| Accélération post-janvier 2024 | Median 200x per year | Epoch AI, Inference Price Trends (2025) |
| Qualité GPT-4 sur GPQA Diamond | 40x per year price drop | Epoch AI, Inference Price Trends (2025) |
| Déclin de prix des benchmarks de pointe | 5x to 10x per year | The Price of Progress (arXiv, 2025) |
| Progrès isolé de l’efficacité algorithmique | ~3x per year | The Price of Progress (arXiv, 2025) |
Note atypique : le jeu de données propre d’Epoch derrière ces chiffres repose sur 36 observations de prix uniques réparties sur six benchmarks, donc les taux d’un seul benchmark (l’extrême de 900x) sont plus bruités que la médiane regroupée.
2. Matériel et Économie des GPU
Les prix des tokens en baisse s’appuient sur des prix de calcul en baisse. Les tarifs de location du cheval de trait NVIDIA H100 ont continué de glisser en 2025 et jusqu’en 2026 à mesure que les clouds spécialisés cassaient les prix des hyperscalers, et chaque nouvelle génération d’accélérateurs redéfinit le plancher de coût par token. Les benchmarks InferenceMAX de NVIDIA, publiés en octobre 2025, situent la GB300 NVL72 à $0.12 par million de tokens — un coût par token 35x inférieur à la génération Hopper. La présentation du fabricant est promotionnelle, donc il faut traiter les multiplicateurs comme le meilleur des cas, mais la direction correspond aux traqueurs de prix indépendants ci-dessous. Gartner projette que la tendance se poursuivra pendant des années : l’inférence sur un modèle à mille milliards de paramètres devrait coûter plus de 90 pour cent de moins en 2030 qu’en 2025.
| Métrique | Valeur | Source |
|---|---|---|
| Moyenne H100 à la demande, 42 fournisseurs | ~$3.61 per GPU-hour | getdeploying (2026) |
| Chute du prix cloud H100 depuis le pic | 64% to 75% | GPU price trackers (2026) |
| Réduction de prix H100 chez AWS, juin 2025 | ~44% | GPU price trackers (2026) |
| Croissance de la performance matérielle ML | 43% per year, doubling every 1.9 years | Stanford HAI, AI Index (2025) |
| Déclin du coût matériel ML / efficacité énergétique | -30% per year / +40% per year | Stanford HAI, AI Index (2025) |
| Coût par token de la NVIDIA GB300 NVL72 | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Coût par million de tokens de Blackwell | 15x lower than prior generation | NVIDIA, InferenceMAX (2025) |
| Coût projeté en 2030, inférence à 1 000 milliards de paramètres | >90% lower vs 2025 | Gartner (2025) |
Contexte : la même divulgation de NVIDIA affirme qu’une installation GB200 NVL72 de $5 million génère environ $75 million en revenus de tokens, un retour de 15x — un argumentaire ROI du fournisseur, pas un audit indépendant. Pour le tableau plus large du silicium, voir nos statistiques sur les puces IA.
3. L’Explosion des Tokens
Des tokens moins chers n’ont pas réduit la facture ; ils ont fait exploser la demande. À mesure que les prix par token baissaient, les fournisseurs ont commencé à mesurer le débit en quadrillions, et les charges de travail agentiques qui déclenchent des dizaines d’appels par tâche poussent le volume encore plus haut. Google a rapporté avoir traité 3.2 quadrillion tokens par mois d’ici mi-2026, environ 7x son taux d’un an plus tôt. C’est le paradoxe de Jevons en temps réel : plus une ressource est efficace, plus elle est consommée. Gartner note que les requêtes agentiques à elles seules consomment 5 à 30 fois plus de tokens qu’un tour de chatbot standard, donc la courbe de volume s’accentue à mesure que les produits passent de réponses uniques à des agents multi-étapes.
| Métrique | Valeur | Source |
|---|---|---|
| Débit de tokens de Google | 3.2 quadrillion/month (mid-2026), 7x YoY | Google I/O (2026) |
| Croissance des tokens de Google | 480T/month (May 2025) to 980T (July 2025) | T. Tunguz, Token Race (2025) |
| Débit de Microsoft Foundry | 100T tokens in a quarter; 50T single-month record | T. Tunguz, Token Race (2025) |
| Nombre de grands clients Microsoft | 250+ customers on track for >1T tokens/year each | Microsoft, via T. Tunguz (2025) |
| Débit de Together.ai | 2 trillion tokens/day (Sept 2025) | T. Tunguz, Token Race (2025) |
| Part open source du volume d’inférence | ~1% to 3% | T. Tunguz, Token Race (2025) |
| Multiplicateur de tokens des requêtes agentiques | 5x to 30x more tokens than a chatbot query | Gartner (2025) |
Contexte : l’IA agentique représentait moins de 1 pour cent de l’activité d’inférence globale d’Azure sur la période citée, donc le multiplicateur de 5x à 30x s’applique à une base petite mais en croissance rapide. Pour la suite de ces charges de travail, voir nos statistiques sur les agents IA.
4. Dépenses des Entreprises et le Paradoxe des Marges
Voici le paradoxe en une ligne : les prix unitaires s’effondrent, pourtant acheteurs et vendeurs dépensent tous deux davantage. Les entreprises ont déplacé leur budget de l’expérimentation vers une production toujours active, où l’inférence ne s’arrête jamais. Menlo Ventures a constaté que 74 pour cent des bâtisseurs d’IA déclarent désormais que la majorité de leurs charges de travail est de l’inférence, contre 48 pour cent un an plus tôt. Côté fournisseur, l’inférence est le poste de coût dominant : The Information a rapporté que la facture d’inférence 2025 d’OpenAI avoisinait $8.4 billion, environ quatre fois celle de l’année précédente et bien au-dessus de sa propre prévision de $6.6 billion. Les marges sont le point de tension — le même rapport situait la marge brute d’OpenAI à 33 pour cent, en dessous de son objectif de 46 pour cent.
| Métrique | Valeur | Source |
|---|---|---|
| Dépenses d’entreprise en API LLM | $3.5B (late 2024) to $8.4B (mid-2025) | Menlo Ventures (2025) |
| Bâtisseurs avec charges de travail majoritairement d’inférence | 74%, up from 48% a year earlier | Menlo Ventures (2025) |
| Investissement d’entreprise en IA générative | $1.7B (2023) to $37B (2025) | Menlo Ventures (2025) |
| Coût d’inférence 2025 d’OpenAI | ~$8.4B, ~4x YoY (vs $6.6B forecast) | The Information (2025) |
| Projection du coût d’inférence 2026 d’OpenAI | ~$14.1B | The Information (2025) |
| Coût d’inférence 2025 d’Anthropic | ~$2.7B, >3x growth | The Information (2025) |
| Marge brute d’OpenAI | 33% (fell from 40%, missed 46% target) | The Information (2025) |
| Capex des puces d’inférence grand public de Barclays, 2026 | ~$120 billion | Barclays Research (2025) |
Contexte : l’activité API d’Anthropic est rapportée comme fonctionnant avec des marges brutes supérieures à 80 pour cent, un rappel que le récit selon lequel “l’inférence perd de l’argent” dépend du mix de modèles et de la tarification, pas universel. Pour l’économie logicielle sous-jacente, voir nos statistiques SaaS.
5. Leviers de Coût : Modèles Ouverts, Mise en Cache et Traitement par Lots
Les prix affichés surestiment ce que les équipes disciplinées paient réellement. Les modèles à poids ouverts, la mise en cache des prompts et le traitement par lots asynchrone réduisent chacun le coût effectif d’un ordre de grandeur, et ils se cumulent. Le R1 de DeepSeek fonctionne environ 96 pour cent moins cher que l’o1 d’OpenAI sur une base par token, un écart d’environ 27x. Le niveau de pointe raconte l’histoire inverse : le prix de sortie de l’o1 d’OpenAI, $60 par million de tokens, est identique à ce que coûtait GPT-3 à son lancement en 2021, donc le raisonnement premium ne s’est pas fait moins cher même si la qualité commodity s’est effondrée. Les économies vivent dans les leviers ci-dessous.
| Métrique | Valeur | Source |
|---|---|---|
| Prix API de DeepSeek R1 | $0.55/M input, $2.19/M output | DeepSeek pricing (2026) |
| Prix API de l’o1 d’OpenAI | $15/M input, $60/M output | pricepertoken (2026) |
| DeepSeek R1 vs OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| Sortie d’OpenAI o1 vs lancement de GPT-3 | $60/M, identical to 2021 GPT-3 | a16z, LLMflation (2024) |
| Entrée mise en cache de DeepSeek R1 | $0.14/M tokens | DeepSeek pricing (2026) |
| Entrée mise en cache de DeepSeek V4 | $0.03/M tokens, a 90% discount | DeepSeek pricing (2026) |
| Remise de l’API Batch d’OpenAI | Flat 50% for a 24-hour window | OpenAI Batch API (2026) |
| Cache + lot, entrée mise en cache de GPT-5.4 | $0.625/M, 75% below standard | OpenAI Batch API (2026) |
Note atypique : les tokens de sortie sont tarifés 3x à 5x plus cher que les tokens d’entrée chez les principaux fournisseurs parce que la génération est séquentielle tandis que le traitement d’entrée se parallélise, donc la mise en cache aide surtout les charges de travail à forte intensité d’entrée. Pour la façon dont les modèles à poids ouverts remodèlent cela, voir nos statistiques sur le cloud computing.
6. Taille du Marché et Prévisions
Le dimensionnement agrégé du marché de l’inférence IA est large, car les analystes tracent la frontière différemment — certains ne comptent que les puces d’inférence, d’autres la pile complète logiciel-plus-services. Traitez l’écart comme une fourchette, pas une contradiction. Bloomberg Intelligence, cité dans le S-1 de Cerebras, a évalué le marché combiné de l’infrastructure entraînement-plus-inférence à $251 billion en 2025, croissant à $672 billion d’ici 2029, l’inférence se développant plus de deux fois plus vite que l’entraînement. La tranche plus étroite des puces d’inférence croît de façon régulière plutôt qu’explosive, tandis que les définitions larges de “l’inférence IA” atterrissent près d’un quart de billion de dollars d’ici 2030.
| Métrique | Valeur | Source |
|---|---|---|
| Marché de l’inférence IA, 2025 à 2030 | $106.15B to $254.98B, 19.2% CAGR | MarketsandMarkets (2025) |
| Marché de l’inférence IA, 2024 à 2030 | $97.24B to $253.75B, 17.5% CAGR | Grand View Research (2025) |
| Marché de l’inférence IA, 2026 à 2034 | $117.80B to $312.64B, 12.98% CAGR | Fortune Business Insights (2026) |
| Marché des puces d’inférence IA, 2026 à 2030 | $20.51B to $36.97B, 15.9% CAGR | The Business Research Company (2026) |
| Infrastructure combinée entraînement + inférence, 2025 à 2029 | $251B to $672B, ~28% CAGR | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| Croissance inférence vs entraînement | Inference grows >2x faster | Bloomberg Intelligence, via Cerebras S-1 (2026) |
Note de divergence : les estimations 2030 pour “l’inférence IA” vont d’environ $255B (MarketsandMarkets) à $313B d’ici 2034 (Fortune Business Insights) ; l’écart reflète des différences de périmètre et d’année de référence, pas une erreur de données.
7. Énergie et Coût par Requête
L’empreinte de ressources par requête chute aussi vite que le prix en dollars, et 2025 a été l’année où le plus grand fournisseur a enfin publié des chiffres. Google a révélé que sa requête textuelle médiane sur Gemini utilise 0.24 wattheure d’électricité — et que ce chiffre a chuté de 33x en douze mois. Les estimations indépendantes se situent dans le même voisinage, ce qui constitue une vérification croisée utile sur les calculs du fournisseur. La mise en garde compte : ce sont des médianes, et les tâches de raisonnement complexes ou agentiques consomment de plusieurs à des dizaines de wattheures, donc la facture moyenne augmente à mesure que les produits se tournent vers des charges de travail plus lourdes.
| Métrique | Valeur | Source |
|---|---|---|
| Énergie de la requête textuelle médiane sur Gemini | 0.24 watt-hours | Google Cloud (2025) |
| Eau / carbone de la requête médiane sur Gemini | 0.26 mL / 0.03 gCO2e | Google Cloud (2025) |
| Énergie par requête médiane sur Gemini, variation sur 12 mois | Fell 33x | Google Cloud (2025) |
| Carbone par requête médiane sur Gemini, variation sur 12 mois | Fell 44x | Google Cloud (2025) |
| Énergie moyenne d’une requête ChatGPT | ~0.34 watt-hours | OpenAI (Sam Altman, 2025) |
| Estimation de requête typique | ~0.3 watt-hours | Epoch AI (2025) |
| Énergie d’une requête complexe / agentique | Several to tens of watt-hours | Google Cloud (2025) |
Contexte : la divulgation de Google couvre la puissance de tout le système, y compris la capacité inactive et les frais généraux du centre de données (PUE), un périmètre plus large que les chiffres puce seule souvent cités ailleurs, donc ce n’est pas directement comparable aux estimations approximatives.
Résumé : Le Coût d’Inférence IA en Chiffres
| Métrique | Valeur | Source |
|---|---|---|
| Prix équivalent à GPT-3 | $60/M (2021) to $0.06/M (2024), 1,000x | a16z, LLMflation (2024) |
| Prix équivalent à GPT-3.5 | 280-fold drop, late 2022 to Oct 2024 | Stanford HAI, AI Index (2025) |
| Déclin de prix entre benchmarks | Median 50x/year; 200x/year since Jan 2024 | Epoch AI (2025) |
| Progrès de l’efficacité algorithmique | ~3x per year | The Price of Progress (arXiv, 2025) |
| Moyenne H100 à la demande | ~$3.61 per GPU-hour, 42 providers | getdeploying (2026) |
| Chute du prix H100 depuis le pic | 64% to 75% | GPU price trackers (2026) |
| Coût matériel ML / efficacité énergétique | -30% / +40% per year | Stanford HAI, AI Index (2025) |
| Coût par token de la NVIDIA GB300 NVL72 | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Débit de tokens de Google | 3.2 quadrillion/month, 7x YoY | Google I/O (2026) |
| Dépenses d’entreprise en API LLM | $3.5B to $8.4B in six months | Menlo Ventures (2025) |
| Charges de travail majoritairement d’inférence | 74% of builders, up from 48% | Menlo Ventures (2025) |
| Coût d’inférence 2025 d’OpenAI | ~$8.4B, ~4x YoY | The Information (2025) |
| Coût d’inférence 2025 d’Anthropic | ~$2.7B, >3x growth | The Information (2025) |
| DeepSeek R1 vs OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| Marché de l’inférence IA | $106B (2025) to $255B (2030), 19.2% CAGR | MarketsandMarkets (2025) |
| Infrastructure combinée entraînement + inférence | $251B (2025) to $672B (2029) | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| Énergie de la requête médiane sur Gemini | 0.24 Wh, down 33x in 12 months | Google Cloud (2025) |
| Projection de coût Gartner pour 2030 | 1T-param inference >90% cheaper vs 2025 | Gartner (2025) |
| Multiplicateur de tokens des requêtes agentiques | 5x to 30x more tokens | Gartner (2025) |
| Remise de l’API Batch d’OpenAI | Flat 50% for 24-hour window | OpenAI (2026) |
Méthodologie et Sources
Les données ont été rassemblées en agrégeant des chiffres provenant de rapports primaires, de divulgations d’entreprises, de dépôts réglementaires, de traqueurs de prix nommés à méthodologie publique, et d’analyses évaluées par les pairs publiées entre 2024 et 2026, en priorisant les données 2025-2026 et en retraçant les mentions de la presse professionnelle jusqu’à leur source d’origine.
- Andreessen Horowitz (a16z), Welcome to LLMflation (2024) — a16z.com
- Epoch AI, LLM Inference Price Trends et How Much Energy Does ChatGPT Use? (2025) — epoch.ai
- Stanford HAI, 2025 AI Index Report, chapitre Recherche et Développement (2025) — hai.stanford.edu
- The Price of Progress: Algorithmic Efficiency and the Falling Cost of AI Inference (arXiv:2511.23455, 2025)
- Gartner, prévision du coût d’inférence IA, rapportée via CIO Dive (2025)
- NVIDIA, Blackwell InferenceMAX Benchmark Results (octobre 2025)
- Google / Google Cloud, Measuring the Environmental Impact of AI Inference (2025) ; reportage de MIT Technology Review (2025)
- Tomasz Tunguz, The Trillion Token Race (2025) ; discours d’ouverture de Google I/O 2026 (Sundar Pichai)
- Menlo Ventures, 2025: The State of Generative AI in the Enterprise (2025)
- The Information, reportages sur le coût d’inférence d’OpenAI et Anthropic (2025)
- Bloomberg Intelligence, dimensionnement de marché cité dans le dépôt S-1 de Cerebras Systems, SEC américaine (2026)
- Barclays Research, estimation du capex d’inférence IA grand public (2025)
- DeepSeek, documentation de tarification API (2026) ; tarification des modèles de pricepertoken.com (2026)
- OpenAI, documentation de l’API Batch (2026) ; déclaration publique de Sam Altman sur l’énergie par requête (2025)
- getdeploying et autres traqueurs de prix cloud NVIDIA H100 (2026)
- MarketsandMarkets, Grand View Research et Fortune Business Insights, rapports sur le marché de l’inférence IA (2024-2026) ; The Business Research Company, marché des puces d’inférence IA (2026, via GlobeNewswire)
Data watch : Stanford HAI publie l’AI Index annuellement (prochaine édition attendue autour d’avril 2027) ; Menlo Ventures actualise son rapport State of Generative AI chaque année ; Epoch AI met à jour ses traqueurs de prix et de tendances d’inférence en continu ; Google devrait actualiser sa divulgation d’impact environnemental annuellement ; et Gartner ainsi que les cabinets d’études de marché republient leurs prévisions d’inférence selon des cycles récurrents. Les prix des API de pointe changent fréquemment, donc les chiffres par token sont ponctuels.
Dernière mise à jour : 10 juillet 2026.
Nous révisons et mettons à jour cette page trimestriellement à mesure que de nouvelles données sont publiées.