固定された水準のAI性能の価格は、3年間でおよそ1,000倍下落しました(a16z、LLMflation 2024)。2021年末に$60 per million tokensだったGPT-3品質の出力は、2024年末には$0.06で販売されるようになりました。Stanford HAIの2025年版AI Indexは、GPT-3.5相当の品質について約18か月間で280倍の下落を計測しました(Stanford HAI、AI Index 2025)。Epoch AIは、ベンチマーク全体で年間約50倍という中央値の下落を追跡しており、2024年1月以降は年間200倍まで加速しています(Epoch AI、LLM Inference Price Trends 2025)。それでも総支出は逆方向に上昇しています:The Informationは、OpenAIの2025年の推論コストが約$8.4 billionに達し、前年の約4倍になったと報じました。この分析は、Epoch AI、Stanford HAI、a16z、Google、NVIDIA、Menlo Ventures、その他12の一次情報源のデータを統合し、2026年半ば時点の推論経済性の実態をまとめたものです。
主なポイント
- GPT-3相当の出力は2021年の$60 per million tokensから2024年には$0.06まで下落し、1,000倍の下落となりました(a16z、LLMflation 2024)。
- GPT-3.5相当の品質のクエリ価格は$20 per million tokensから$0.07 per million tokensまで下落し、約18か月で280倍の削減となりました(Stanford HAI、AI Index 2025)。
- ベンチマークにおける価格性能比の下落幅は年間9倍から900倍の範囲で、中央値は50倍、2024年1月以降は200倍まで上昇しています(Epoch AI、2025)。
- ハードウェアの改善とは別に、アルゴリズム効率単体の進歩は年間約3倍のペースで進んでいます(The Price of Progress、arXiv 2025)。
- 2026年、NVIDIA H100のオンデマンドレンタル市場平均価格は42のプロバイダーで$3.61 per GPU-hour前後でした(getdeploying、2026)。
- NVIDIAのGB300 NVL72は$0.12 per million tokensに達し、Hopperと比べてトークンあたりのコストが35倍低いとされています(NVIDIA、InferenceMAX 2025)。
- Googleは2026年半ばまでに月間3.2 quadrillion tokensを処理しており、前年比で約7倍にあたります(Google I/O 2026)。
- 企業のLLM API支出は6か月で$3.5 billionから$8.4 billionへと倍増しました(Menlo Ventures、2025)。
- OpenAIの2025年の推論コストは約$8.4 billionに達し、前年の約4倍となりました(The Information、2025)。
- トレーニングと推論を合わせたインフラ市場は2025年時点で$251 billionと見積もられ、2029年までに$672 billionに成長するとされています(Bloomberg Intelligence、via Cerebras S-1 2026)。
- Geminiの中央値のテキストプロンプトは0.24 watt-hoursを消費し、12か月で33倍低下しました(Google、2025)。
1. 同等性能における価格崩壊
推論経済性における最も重要な数字は、単一の価格ではなく傾き(下落の勢い)です。一定の品質基準で見ると、モデルを運用するコストは年単位ではなく月単位で半減しており、2024年初頭以降その下落は一段と急になっています。ベンチマーク間の乖離も重要です。安価なコモディティ品質は最も速く下落する一方、最先端(frontier)の推論品質は価格を維持しています。Epoch AIは年間中央値50倍の下落を計測しており、2024年1月以降のデータに限定すると年間200倍まで跳ね上がります。 底値が下がり続けるのは、競争、より優れたシリコン、より優れたアルゴリズムという3つの力が積み重なっているためです。最後の要因を切り分けると、ある研究チームは純粋なアルゴリズム効率の進歩を年間約3倍と算出しました。
| 指標 | 値 | 出典 |
|---|---|---|
| GPT-3相当品質(MMLU ~42)の価格 | $60/M tokens (Nov 2021) to $0.06/M (2024), a 1,000x drop | a16z, LLMflation (2024) |
| 同等性能に対するLLMflation率 | ~10x cheaper per year | a16z, LLMflation (2024) |
| GPT-3.5相当品質(MMLU 64.8%)の価格 | $20/M (Nov 2022) to $0.07/M (Oct 2024), 280-fold | Stanford HAI, AI Index (2025) |
| ベンチマーク横断での価格性能比の下落 | 9x to 900x per year; median 50x | Epoch AI, Inference Price Trends (2025) |
| 2024年1月以降の加速 | Median 200x per year | Epoch AI, Inference Price Trends (2025) |
| GPQA DiamondでのGPT-4品質 | 40x per year price drop | Epoch AI, Inference Price Trends (2025) |
| 最先端ベンチマークの価格下落 | 5x to 10x per year | The Price of Progress (arXiv, 2025) |
| アルゴリズム効率単体の進歩 | ~3x per year | The Price of Progress (arXiv, 2025) |
外れ値についての注記:これらの数値の基となるEpoch自身のデータセットは、6つのベンチマークにわたる36件のユニークな価格観測に基づいており、単一ベンチマークの数値(極端な900倍)は統合された中央値よりもノイズが多くなります。
2. ハードウェアとGPU経済性
トークン価格の下落は、コンピュート価格の下落の上に成り立っています。定番のNVIDIA H100のレンタル価格は、専門クラウドがハイパースケーラーより安い価格を提示する中で2025年から2026年にかけて下がり続け、新しいアクセラレータ世代が登場するたびにトークンあたりコストの底値がリセットされます。2025年10月に公表されたNVIDIAのInferenceMAXベンチマークによると、GB300 NVL72は$0.12 per million tokensを記録し、Hopper世代と比べてトークンあたりのコストが35倍低くなっています。 ベンダーの見せ方は宣伝的なものなので、これらの倍率は最良ケースとして扱うべきですが、方向性は以下の独立した価格トラッカーとも一致しています。Gartnerは、この傾向が今後も続くと予測しています:1兆パラメータのモデルにおける推論コストは、2030年には2025年より90%以上低くなるはずだとしています。
| 指標 | 値 | 出典 |
|---|---|---|
| H100オンデマンド平均価格、42プロバイダー | ~$3.61 per GPU-hour | getdeploying (2026) |
| ピークからのH100クラウド価格下落 | 64% to 75% | GPU price trackers (2026) |
| AWSによるH100値下げ、2025年6月 | ~44% | GPU price trackers (2026) |
| MLハードウェアの性能向上 | 43% per year, doubling every 1.9 years | Stanford HAI, AI Index (2025) |
| MLハードウェアのコスト低下 / エネルギー効率 | -30% per year / +40% per year | Stanford HAI, AI Index (2025) |
| NVIDIA GB300 NVL72のトークンあたりコスト | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Blackwellの100万トークンあたりコスト | 15x lower than prior generation | NVIDIA, InferenceMAX (2025) |
| 2030年予測コスト、1兆パラメータ推論 | >90% lower vs 2025 | Gartner (2025) |
文脈:同じNVIDIAの開示によると、$5 millionのGB200 NVL72構築が約$75 millionのトークン収益を生み出すとされ、これは15倍のリターンにあたります — ただしこれはベンダー側の投資対効果に関する主張であり、独立監査ではありません。より広範なシリコンの全体像については、当サイトのAIチップ統計をご覧ください。
3. トークンの爆発的増加
トークンが安くなっても請求額は縮小せず、むしろ需要を爆発させました。トークン単価が下落するにつれ、プロバイダーはスループットをquadrillion(千兆)単位で測定するようになり、1つのタスクで数十回の呼び出しを行うエージェント型ワークロードが、さらに量を押し上げています。Googleは2026年半ばまでに月間3.2 quadrillion tokensを処理していると報告しており、これは1年前の約7倍にあたります。 これはリアルタイムで起きているジェヴォンズのパラドックスです:資源が効率化するほど、より多く消費されるのです。Gartnerは、エージェント型クエリだけで標準的なチャットボットのやり取りと比べて5倍から30倍多くのトークンを消費すると指摘しており、製品が単一の回答から複数ステップのエージェントへと移行するにつれ、この量の曲線はさらに急になっています。
| 指標 | 値 | 出典 |
|---|---|---|
| Googleのトークンスループット | 3.2 quadrillion/month (mid-2026), 7x YoY | Google I/O (2026) |
| Googleのトークン成長 | 480T/month (May 2025) to 980T (July 2025) | T. Tunguz, Token Race (2025) |
| Microsoft Foundryのスループット | 100T tokens in a quarter; 50T single-month record | T. Tunguz, Token Race (2025) |
| Microsoftの大口顧客数 | 250+ customers on track for >1T tokens/year each | Microsoft, via T. Tunguz (2025) |
| Together.aiのスループット | 2 trillion tokens/day (Sept 2025) | T. Tunguz, Token Race (2025) |
| 推論量に占めるオープンソースの割合 | ~1% to 3% | T. Tunguz, Token Race (2025) |
| エージェント型クエリのトークン倍率 | 5x to 30x more tokens than a chatbot query | Gartner (2025) |
文脈:引用された期間において、エージェント型AIはAzureの推論活動全体の1%未満にとどまっており、5倍から30倍という倍率は小さいながらも急速に成長している母数に適用されたものです。こうしたワークロードが今後どこへ向かうかについては、当サイトのAIエージェント統計をご覧ください。
4. 企業支出と利益率のパラドックス
パラドックスを一言で言えば:単価は崩壊しているのに、買い手も売り手もより多く支出しているということです。企業は予算を実験段階から、推論が止まることのない常時稼働の本番運用へとシフトさせました。Menlo Venturesの調査によると、AIビルダーの74%が現在ワークロードの大半は推論だと回答しており、1年前の48%から上昇しています。 供給側では、推論が支出の中心的な項目です:The Informationは、OpenAIの2025年の推論コストが約$8.4 billionに達し、前年の約4倍、そして自社予測の$6.6 billionを大きく上回ったと報じました。利益率がその圧力点です — 同じ報道は、OpenAIの粗利益率を目標の46%を下回る33%としています。
| 指標 | 値 | 出典 |
|---|---|---|
| 企業のLLM API支出 | $3.5B (late 2024) to $8.4B (mid-2025) | Menlo Ventures (2025) |
| ワークロードの大半が推論のビルダー | 74%, up from 48% a year earlier | Menlo Ventures (2025) |
| 企業の生成AI投資 | $1.7B (2023) to $37B (2025) | Menlo Ventures (2025) |
| OpenAIの2025年推論コスト | ~$8.4B, ~4x YoY (vs $6.6B forecast) | The Information (2025) |
| OpenAIの2026年推論コスト予測 | ~$14.1B | The Information (2025) |
| Anthropicの2025年推論コスト | ~$2.7B, >3x growth | The Information (2025) |
| OpenAIの粗利益率 | 33% (fell from 40%, missed 46% target) | The Information (2025) |
| Barclaysによる消費者向け推論チップ設備投資、2026年 | ~$120 billion | Barclays Research (2025) |
文脈:Anthropicのアプリケーション向けAPI事業は粗利益率80%超で運営されていると報じられており、「推論は赤字」という物語がモデルの組み合わせと価格設定次第であって、普遍的なものではないことを思い出させてくれます。その背後にあるソフトウェア経済性については、当サイトのSaaS統計をご覧ください。
5. コスト削減レバー:オープンモデル、キャッシュ、バッチ処理
定価は、規律あるチームが実際に支払っている金額を過大に見せます。オープンウェイトモデル、プロンプトキャッシュ、非同期バッチ処理はそれぞれ実効コストを桁単位で削減し、それらは重ね合わせることができます。DeepSeekのR1は、トークンあたりのコストでOpenAIのo1より約96%安く、その差はおよそ27倍に及びます。 最先端層は逆の物語を語ります:OpenAIのo1の出力価格である$60 per million tokensは、2021年のGPT-3のローンチ時の価格と同一であり、コモディティ品質が崩壊する中でもプレミアムな推論は安くなっていないのです。節約はこの後のレバーの中にあります。
| 指標 | 値 | 出典 |
|---|---|---|
| DeepSeek R1のAPI価格 | $0.55/M input, $2.19/M output | DeepSeek pricing (2026) |
| OpenAI o1のAPI価格 | $15/M input, $60/M output | pricepertoken (2026) |
| DeepSeek R1対OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| OpenAI o1の出力価格対GPT-3ローンチ時価格 | $60/M, identical to 2021 GPT-3 | a16z, LLMflation (2024) |
| DeepSeek R1のキャッシュ済み入力 | $0.14/M tokens | DeepSeek pricing (2026) |
| DeepSeek V4のキャッシュ済み入力 | $0.03/M tokens, a 90% discount | DeepSeek pricing (2026) |
| OpenAI Batch APIの割引 | Flat 50% for a 24-hour window | OpenAI Batch API (2026) |
| キャッシュ+バッチ、GPT-5.4のキャッシュ済み入力 | $0.625/M, 75% below standard | OpenAI Batch API (2026) |
外れ値についての注記:主要プロバイダー全体で、出力トークンは入力トークンより3倍から5倍高い価格設定になっています。これは生成が逐次的である一方、入力処理は並列化できるためであり、そのためキャッシュは入力量の多いワークロードに最も効果があります。オープンウェイトモデルがこの構図をどう変えるかについては、当サイトのクラウドコンピューティング統計をご覧ください。
6. 市場規模と予測
AI推論の市場規模の集計には幅があります。アナリストによって境界の引き方が異なるためで、推論チップのみをカウントする人もいれば、ソフトウェアとサービスを含む全体のスタックをカウントする人もいます。この幅は矛盾ではなく、範囲として捉えるべきです。CerebrasのS-1で引用されたBloomberg Intelligenceは、トレーニングと推論を合わせたインフラ市場を2025年時点で$251 billion、2029年までに$672 billionに成長すると見積もっており、推論はトレーニングの2倍以上の速さで拡大しています。 より狭い範囲の推論チップ市場は爆発的にではなく着実に成長する一方、広義の「AI推論」の定義では2030年までに4分の1兆ドル近くに達します。
| 指標 | 値 | 出典 |
|---|---|---|
| AI推論市場、2025年から2030年 | $106.15B to $254.98B, 19.2% CAGR | MarketsandMarkets (2025) |
| AI推論市場、2024年から2030年 | $97.24B to $253.75B, 17.5% CAGR | Grand View Research (2025) |
| AI推論市場、2026年から2034年 | $117.80B to $312.64B, 12.98% CAGR | Fortune Business Insights (2026) |
| AI推論チップ市場、2026年から2030年 | $20.51B to $36.97B, 15.9% CAGR | The Business Research Company (2026) |
| トレーニングと推論を合わせたインフラ、2025年から2029年 | $251B to $672B, ~28% CAGR | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| 推論対トレーニングの成長率 | Inference grows >2x faster | Bloomberg Intelligence, via Cerebras S-1 (2026) |
乖離についての注記:「AI推論」の2030年予測は、約$255B(MarketsandMarkets)から2034年時点の$313B(Fortune Business Insights)まで幅があります。この差はデータの誤りではなく、対象範囲と基準年の違いを反映したものです。
7. エネルギーとクエリあたりのコスト
クエリあたりの資源フットプリントは、ドル価格と同じ速さで下落しており、2025年は最大手プロバイダーがついに数値を公表した年でした。Googleは、Geminiの中央値のテキストプロンプトが0.24 watt-hoursの電力を消費すると開示し、この数値が過去12か月で33倍低下したとしています。 独立した推計もほぼ同じ範囲に収まっており、これはベンダー側の計算に対する有用なクロスチェックとなります。ただし重要な留保があります:これらは中央値であり、複雑な推論やエージェント型のタスクは数watt-hoursから数十watt-hoursを消費するため、製品がより重いワークロードへとシフトするにつれて平均的な請求額は上昇します。
| 指標 | 値 | 出典 |
|---|---|---|
| Geminiの中央値テキストプロンプトのエネルギー | 0.24 watt-hours | Google Cloud (2025) |
| Geminiの中央値プロンプトの水 / 炭素 | 0.26 mL / 0.03 gCO2e | Google Cloud (2025) |
| Geminiの中央値プロンプトあたりのエネルギー、12か月間の変化 | Fell 33x | Google Cloud (2025) |
| Geminiの中央値プロンプトあたりの炭素、12か月間の変化 | Fell 44x | Google Cloud (2025) |
| ChatGPTの平均クエリエネルギー | ~0.34 watt-hours | OpenAI (Sam Altman, 2025) |
| 典型的なクエリの推定値 | ~0.3 watt-hours | Epoch AI (2025) |
| 複雑な / エージェント型クエリのエネルギー | Several to tens of watt-hours | Google Cloud (2025) |
文脈:Googleの開示は、アイドル状態のキャパシティやデータセンターのオーバーヘッド(PUE)を含むシステム全体の電力をカバーしており、他所でよく引用されるチップ単体の数値よりも広い範囲を対象としているため、大まかな試算とは直接比較できません。
まとめ:数字で見るAI推論コスト
| 指標 | 値 | 出典 |
|---|---|---|
| GPT-3相当の価格 | $60/M (2021) to $0.06/M (2024), 1,000x | a16z, LLMflation (2024) |
| GPT-3.5相当の価格 | 280-fold drop, late 2022 to Oct 2024 | Stanford HAI, AI Index (2025) |
| ベンチマーク横断での価格下落 | Median 50x/year; 200x/year since Jan 2024 | Epoch AI (2025) |
| アルゴリズム効率の進歩 | ~3x per year | The Price of Progress (arXiv, 2025) |
| H100オンデマンド平均価格 | ~$3.61 per GPU-hour, 42 providers | getdeploying (2026) |
| ピークからのH100価格下落 | 64% to 75% | GPU price trackers (2026) |
| MLハードウェアのコスト / エネルギー効率 | -30% / +40% per year | Stanford HAI, AI Index (2025) |
| NVIDIA GB300 NVL72のトークンあたりコスト | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Googleのトークンスループット | 3.2 quadrillion/month, 7x YoY | Google I/O (2026) |
| 企業のLLM API支出 | $3.5B to $8.4B in six months | Menlo Ventures (2025) |
| 推論が大半を占めるワークロード | 74% of builders, up from 48% | Menlo Ventures (2025) |
| OpenAIの2025年推論コスト | ~$8.4B, ~4x YoY | The Information (2025) |
| Anthropicの2025年推論コスト | ~$2.7B, >3x growth | The Information (2025) |
| DeepSeek R1対OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| AI推論市場 | $106B (2025) to $255B (2030), 19.2% CAGR | MarketsandMarkets (2025) |
| トレーニングと推論を合わせたインフラ | $251B (2025) to $672B (2029) | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| Geminiの中央値プロンプトのエネルギー | 0.24 Wh, down 33x in 12 months | Google Cloud (2025) |
| Gartnerの2030年コスト予測 | 1T-param inference >90% cheaper vs 2025 | Gartner (2025) |
| エージェント型クエリのトークン倍率 | 5x to 30x more tokens | Gartner (2025) |
| OpenAI Batch APIの割引 | Flat 50% for 24-hour window | OpenAI (2026) |
方法論と出典
データは、一次報告書、企業開示資料、規制当局への提出書類、公開された方法論を持つ名称付き価格トラッカー、2024年から2026年にかけて発表された査読済み分析から数値を集約して収集しました。2025年から2026年のデータを優先し、業界紙での言及を元の情報源までさかのぼって確認しています。
- Andreessen Horowitz(a16z)、Welcome to LLMflation(2024) — a16z.com
- Epoch AI、LLM Inference Price Trends および How Much Energy Does ChatGPT Use?(2025) — epoch.ai
- Stanford HAI、2025 AI Index Report、Research and Development章(2025) — hai.stanford.edu
- The Price of Progress: Algorithmic Efficiency and the Falling Cost of AI Inference(arXiv:2511.23455、2025)
- Gartner、AI推論コスト予測、CIO Dive経由で報道(2025)
- NVIDIA、Blackwell InferenceMAX Benchmark Results(2025年10月)
- Google / Google Cloud、Measuring the Environmental Impact of AI Inference(2025);MIT Technology Reviewの報道(2025)
- Tomasz Tunguz、The Trillion Token Race(2025);Google I/O 2026基調講演(Sundar Pichai)
- Menlo Ventures、2025: The State of Generative AI in the Enterprise(2025)
- The Information、OpenAIとAnthropicの推論コストに関する報道(2025)
- Bloomberg Intelligence、Cerebras SystemsのS-1提出書類(米SEC)で引用された市場規模(2026)
- Barclays Research、消費者向けAI推論設備投資の推計(2025)
- DeepSeek、API価格ドキュメント(2026);pricepertoken.comのモデル価格(2026)
- OpenAI、Batch APIドキュメント(2026);クエリエネルギーに関するサム・アルトマンの公開発言(2025)
- getdeployingおよびその他のNVIDIA H100クラウド価格トラッカー(2026)
- MarketsandMarkets、Grand View Research、Fortune Business Insights、AI推論市場レポート(2024-2026);The Business Research Company、AI推論チップ市場(2026、GlobeNewswire経由)
Data watch: Stanford HAIはAI Indexを毎年発行しています(次版は2027年4月頃を予定);Menlo VenturesはState of Generative AIレポートを毎年更新しています;Epoch AIは推論価格とトレンドのトラッカーを継続的に更新しています;Googleは環境影響開示を毎年更新すると見込まれています;そしてGartnerや各市場調査会社はローリングサイクルで推論予測を再発行しています。最先端APIの価格は頻繁に変動するため、トークンあたりの数値はある時点のスナップショットです。
最終更新:2026年7月10日。
本ページは新しいデータが発表され次第、四半期ごとに見直し・更新しています。