Cena stałego poziomu wydajności AI spadła o mniej więcej 1000 razy w ciągu trzech lat (a16z, LLMflation 2024) — wynik o jakości GPT-3, który kosztował 60 USD za milion tokenów pod koniec 2021 roku, sprzedawano za 0,06 USD pod koniec 2024 roku. AI Index 2025 Stanford HAI zmierzył 280-krotny spadek dla jakości równoważnej GPT-3.5 w ciągu około 18 miesięcy (Stanford HAI, AI Index 2025). Epoch AI śledzi medianowy spadek na poziomie blisko 50-krotnym rocznie w różnych testach porównawczych, przyspieszający do 200-krotnego rocznie od stycznia 2024 roku (Epoch AI, LLM Inference Price Trends 2025). Mimo to całkowite wydatki rosną w przeciwnym kierunku: The Information podało, że rachunek OpenAI za wnioskowanie w 2025 roku wyniósł blisko 8,4 mld USD, czyli około czterokrotnie więcej niż rok wcześniej. Ta analiza zestawia dane z Epoch AI, Stanford HAI, a16z, Google, NVIDIA, Menlo Ventures i 12 innych źródeł pierwotnych na temat stanu ekonomii wnioskowania w połowie 2026 roku.
Najważniejsze wnioski
- Wynik równoważny GPT-3 spadł z 60 USD za milion tokenów w 2021 roku do 0,06 USD do 2024 roku, czyli spadek 1000-krotny (a16z, LLMflation 2024).
- Koszt zapytania o jakości równoważnej GPT-3.5 spadł z 20 USD do 0,07 USD za milion tokenów, czyli 280-krotne cięcie w ciągu około 18 miesięcy (Stanford HAI, AI Index 2025).
- Spadek stosunku ceny do wydajności w testach porównawczych wynosi od 9 do 900 razy rocznie; mediana 50 razy, rosnąca do 200 razy od stycznia 2024 roku (Epoch AI, 2025).
- Izolowany postęp efektywności algorytmicznej wynosi około 3 razy rocznie, niezależnie od zysków sprzętowych (The Price of Progress, arXiv 2025).
- Średnia rynkowa stawka wynajmu NVIDIA H100 na żądanie wynosiła około 3,61 USD za godzinę GPU u 42 dostawców w 2026 roku (getdeploying, 2026).
- GB300 NVL72 firmy NVIDIA osiągnął 0,12 USD za milion tokenów, co określono jako koszt za token 35 razy niższy niż w Hopper (NVIDIA, InferenceMAX 2025).
- Google przetwarzało 3,2 biliarda tokenów miesięcznie do połowy 2026 roku, około 7 razy więcej rok do roku (Google I/O 2026).
- Wydatki przedsiębiorstw na API LLM podwoiły się z 3,5 mld USD do 8,4 mld USD w ciągu sześciu miesięcy (Menlo Ventures, 2025).
- Koszt wnioskowania OpenAI w 2025 roku sięgnął około 8,4 mld USD, czyli około 4 razy więcej niż rok wcześniej (The Information, 2025).
- Łączną infrastrukturę treningu i wnioskowania oszacowano na 251 mld USD w 2025 roku, rosnącą do 672 mld USD do 2029 roku (Bloomberg Intelligence, via Cerebras S-1 2026).
- Medianowe zapytanie tekstowe Gemini zużywa 0,24 wat-godziny, o 33 razy mniej niż 12 miesięcy wcześniej (Google, 2025).
1. Załamanie cen przy równoważnej wydajności
Najważniejsza liczba w ekonomii wnioskowania to nie żadna pojedyncza cena — to nachylenie krzywej. Przy stałym progu jakości koszt uruchamiania modelu spada o połowę w skali miesięcy, nie lat, a spadek pogłębił się od początku 2024 roku. Rozbieżność między testami porównawczymi ma znaczenie: tania jakość towarowa spada najszybciej, podczas gdy jakość wnioskowania na najwyższym poziomie (frontier reasoning) utrzymuje cenę. Epoch AI mierzy medianowy spadek na poziomie 50 razy rocznie, skaczący do 200 razy rocznie przy ograniczeniu do danych od stycznia 2024 roku. Podłoga wciąż opada, ponieważ nakładają się trzy siły: konkurencja, lepszy sprzęt (silicon) i lepsze algorytmy. Izolując ten ostatni czynnik, zespół badawczy oszacował czystą efektywność algorytmiczną na około 3 razy rocznie.
| Metryka | Wartość | Źródło |
|---|---|---|
| Cena jakości równoważnej GPT-3 (MMLU ~42) | $60/M tokens (Nov 2021) to $0.06/M (2024), a 1,000x drop | a16z, LLMflation (2024) |
| Tempo LLMflation dla równoważnej wydajności | ~10x cheaper per year | a16z, LLMflation (2024) |
| Cena jakości równoważnej GPT-3.5 (MMLU 64.8%) | $20/M (Nov 2022) to $0.07/M (Oct 2024), 280-fold | Stanford HAI, AI Index (2025) |
| Spadek stosunku ceny do wydajności między testami | 9x to 900x per year; median 50x | Epoch AI, Inference Price Trends (2025) |
| Przyspieszenie po styczniu 2024 | Median 200x per year | Epoch AI, Inference Price Trends (2025) |
| Jakość GPT-4 w teście GPQA Diamond | 40x per year price drop | Epoch AI, Inference Price Trends (2025) |
| Spadek cen w testach na najwyższym poziomie | 5x to 10x per year | The Price of Progress (arXiv, 2025) |
| Izolowany postęp efektywności algorytmicznej | ~3x per year | The Price of Progress (arXiv, 2025) |
Uwaga o wartości odstającej: własny zbiór danych Epoch stojący za tymi liczbami opiera się na 36 unikalnych obserwacjach cenowych w sześciu testach porównawczych, więc wskaźniki z pojedynczego testu (skrajna wartość 900 razy) są bardziej zaszumione niż połączona mediana.
2. Sprzęt i ekonomia GPU
Spadające ceny tokenów jadą na spadających cenach mocy obliczeniowej. Stawki wynajmu koni roboczych NVIDIA H100 nadal spadały przez 2025 rok i do 2026 roku, gdy wyspecjalizowane chmury podbijały ceny hiperskalerów w dół, a każda nowa generacja akceleratorów resetuje podłogę kosztu za token. Wyniki testów InferenceMAX firmy NVIDIA, opublikowane w październiku 2025 roku, wskazują GB300 NVL72 na poziomie 0,12 USD za milion tokenów — 35 razy niższy koszt za token niż w generacji Hopper. Ujęcie dostawcy ma charakter promocyjny, więc te mnożniki należy traktować jako najlepszy scenariusz, ale kierunek zgadza się z niezależnymi trackerami cen poniżej. Gartner przewiduje, że trend utrzyma się przez lata: wnioskowanie na modelu z bilionem parametrów powinno kosztować o ponad 90 procent mniej w 2030 roku niż w 2025 roku.
| Metryka | Wartość | Źródło |
|---|---|---|
| Średnia H100 na żądanie, 42 dostawców | ~$3.61 per GPU-hour | getdeploying (2026) |
| Spadek ceny chmurowej H100 od szczytu | 64% to 75% | GPU price trackers (2026) |
| Obniżka ceny H100 w AWS, czerwiec 2025 | ~44% | GPU price trackers (2026) |
| Wzrost wydajności sprzętu ML | 43% per year, doubling every 1.9 years | Stanford HAI, AI Index (2025) |
| Spadek kosztu sprzętu ML / efektywność energetyczna | -30% per year / +40% per year | Stanford HAI, AI Index (2025) |
| Koszt za token NVIDIA GB300 NVL72 | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Koszt za milion tokenów Blackwell | 15x lower than prior generation | NVIDIA, InferenceMAX (2025) |
| Prognozowany koszt w 2030 roku, wnioskowanie 1T parametrów | >90% lower vs 2025 | Gartner (2025) |
Kontekst: to samo ujawnienie NVIDIA twierdzi, że wdrożenie GB200 NVL72 za 5 mln USD generuje około 75 mln USD przychodu z tokenów, czyli zwrot 15-krotny — to argument dostawcy o zwrocie z inwestycji, nie niezależny audyt. Szerszy obraz krzemu znajdziesz w naszych statystykach chipów AI.
3. Eksplozja tokenów
Tańsze tokeny nie zmniejszyły rachunku; zdetonowały popyt. Gdy ceny za token spadały, dostawcy zaczęli mierzyć przepustowość w biliardach, a obciążenia agentowe wysyłające dziesiątki wywołań na zadanie pchają wolumen jeszcze wyżej. Google podało, że do połowy 2026 roku przetwarzało 3,2 biliarda tokenów miesięcznie, około 7 razy więcej niż rok wcześniej. To paradoks Jevonsa w czasie rzeczywistym: im bardziej wydajny zasób, tym więcej się go zużywa. Gartner zauważa, że same zapytania agentowe zużywają od 5 do 30 razy więcej tokenów niż standardowa tura czatbota, więc krzywa wolumenu staje się coraz bardziej stroma w miarę przechodzenia produktów od pojedynczych odpowiedzi do wieloetapowych agentów.
| Metryka | Wartość | Źródło |
|---|---|---|
| Przepustowość tokenów Google | 3.2 quadrillion/month (mid-2026), 7x YoY | Google I/O (2026) |
| Wzrost tokenów Google | 480T/month (May 2025) to 980T (July 2025) | T. Tunguz, Token Race (2025) |
| Przepustowość Microsoft Foundry | 100T tokens in a quarter; 50T single-month record | T. Tunguz, Token Race (2025) |
| Liczba dużych klientów Microsoft | 250+ customers on track for >1T tokens/year each | Microsoft, via T. Tunguz (2025) |
| Przepustowość Together.ai | 2 trillion tokens/day (Sept 2025) | T. Tunguz, Token Race (2025) |
| Udział open source w wolumenie wnioskowania | ~1% to 3% | T. Tunguz, Token Race (2025) |
| Mnożnik tokenów zapytań agentowych | 5x to 30x more tokens than a chatbot query | Gartner (2025) |
Kontekst: agentowa AI stanowiła mniej niż 1 procent całkowitej aktywności wnioskowania Azure w cytowanym okresie, więc mnożnik 5-30 razy stosuje się do małej, ale szybko rosnącej bazy. Dokąd zmierzają te obciążenia dalej, sprawdź w naszych statystykach agentów AI.
4. Wydatki przedsiębiorstw i paradoks marży
Oto paradoks w jednym zdaniu: ceny jednostkowe się załamują, a mimo to zarówno kupujący, jak i sprzedający wydają więcej. Przedsiębiorstwa przesunęły budżet z eksperymentowania na produkcję działającą non-stop, gdzie wnioskowanie nigdy się nie zatrzymuje. Menlo Ventures stwierdziło, że 74 procent budowniczych AI mówi teraz, że większość ich obciążeń to wnioskowanie, w górę z 48 procent rok wcześniej. Po stronie dostawców wnioskowanie to dominująca pozycja kosztowa: The Information podało, że rachunek OpenAI za wnioskowanie w 2025 roku wyniósł blisko 8,4 mld USD, czyli około czterokrotnie więcej niż rok wcześniej i znacznie powyżej własnej prognozy 6,6 mld USD. Marże są punktem nacisku — to samo doniesienie wskazało marżę brutto OpenAI na 33 procent, poniżej celu 46 procent.
| Metryka | Wartość | Źródło |
|---|---|---|
| Wydatki przedsiębiorstw na API LLM | $3.5B (late 2024) to $8.4B (mid-2025) | Menlo Ventures (2025) |
| Budowniczowie z obciążeniami głównie wnioskowaniowymi | 74%, up from 48% a year earlier | Menlo Ventures (2025) |
| Inwestycje przedsiębiorstw w generatywną AI | $1.7B (2023) to $37B (2025) | Menlo Ventures (2025) |
| Koszt wnioskowania OpenAI w 2025 | ~$8.4B, ~4x YoY (vs $6.6B forecast) | The Information (2025) |
| Prognoza kosztu wnioskowania OpenAI w 2026 | ~$14.1B | The Information (2025) |
| Koszt wnioskowania Anthropic w 2025 | ~$2.7B, >3x growth | The Information (2025) |
| Marża brutto OpenAI | 33% (fell from 40%, missed 46% target) | The Information (2025) |
| Capex Barclays na chipy wnioskowania konsumenckiego, 2026 | ~$120 billion | Barclays Research (2025) |
Kontekst: biznes API Anthropic ponoć działa z marżami brutto powyżej 80 procent, co przypomina, że narracja “wnioskowanie traci pieniądze” zależy od miksu modeli i cennika, a nie jest uniwersalna. Ekonomię oprogramowania stojącą za tym znajdziesz w naszych statystykach SaaS.
5. Dźwignie kosztowe: modele otwarte, buforowanie i przetwarzanie wsadowe
Ceny cennikowe zawyżają to, co faktycznie płacą zdyscyplinowane zespoły. Modele z otwartymi wagami, buforowanie promptów i asynchroniczne przetwarzanie wsadowe każde z osobna obniżają efektywny koszt o rząd wielkości, a efekty się kumulują. R1 firmy DeepSeek działa około 96 procent taniej niż o1 firmy OpenAI w przeliczeniu na token, czyli luka rzędu 27 razy. Poziom najwyższej klasy (frontier) opowiada odwrotną historię: cena wyjścia o1 OpenAI wynosząca 60 USD za milion tokenów jest identyczna z ceną GPT-3 przy premierze w 2021 roku, więc premium wnioskowanie nie stało się tańsze, mimo że jakość towarowa się załamała. Oszczędności tkwią w dźwigniach poniżej.
| Metryka | Wartość | Źródło |
|---|---|---|
| Cena API DeepSeek R1 | $0.55/M input, $2.19/M output | DeepSeek pricing (2026) |
| Cena API OpenAI o1 | $15/M input, $60/M output | pricepertoken (2026) |
| DeepSeek R1 kontra OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| Wyjście OpenAI o1 kontra premiera GPT-3 | $60/M, identical to 2021 GPT-3 | a16z, LLMflation (2024) |
| Buforowane wejście DeepSeek R1 | $0.14/M tokens | DeepSeek pricing (2026) |
| Buforowane wejście DeepSeek V4 | $0.03/M tokens, a 90% discount | DeepSeek pricing (2026) |
| Rabat Batch API OpenAI | Flat 50% for a 24-hour window | OpenAI Batch API (2026) |
| Bufor + wsad, buforowane wejście GPT-5.4 | $0.625/M, 75% below standard | OpenAI Batch API (2026) |
Uwaga o wartości odstającej: tokeny wyjściowe są wyceniane od 3 do 5 razy wyżej niż tokeny wejściowe u głównych dostawców, ponieważ generowanie jest sekwencyjne, a przetwarzanie wejścia zrównoleglone, więc buforowanie pomaga najbardziej obciążeniom intensywnym wejściowo. Jak modele z otwartymi wagami zmieniają ten obraz, sprawdź w naszych statystykach cloud computing.
6. Wielkość rynku i prognozy
Zbiorcze szacunki wielkości rynku wnioskowania AI są szerokie, ponieważ analitycy inaczej wyznaczają granice — niektórzy liczą tylko chipy wnioskowania, inni cały stos oprogramowania i usług. Ten rozrzut należy traktować jako zakres, nie sprzeczność. Bloomberg Intelligence, cytowane w prospekcie S-1 Cerebras, oszacowało łączny rynek infrastruktury treningu i wnioskowania na 251 mld USD w 2025 roku, rosnący do 672 mld USD do 2029 roku, przy czym wnioskowanie rośnie ponad dwa razy szybciej niż trening. Węższy wycinek chipów wnioskowania rośnie stabilnie, a nie wybuchowo, podczas gdy szerokie definicje “wnioskowania AI” osiągają blisko ćwierć biliona dolarów do 2030 roku.
| Metryka | Wartość | Źródło |
|---|---|---|
| Rynek wnioskowania AI, 2025-2030 | $106.15B to $254.98B, 19.2% CAGR | MarketsandMarkets (2025) |
| Rynek wnioskowania AI, 2024-2030 | $97.24B to $253.75B, 17.5% CAGR | Grand View Research (2025) |
| Rynek wnioskowania AI, 2026-2034 | $117.80B to $312.64B, 12.98% CAGR | Fortune Business Insights (2026) |
| Rynek chipów wnioskowania AI, 2026-2030 | $20.51B to $36.97B, 15.9% CAGR | The Business Research Company (2026) |
| Łączna infrastruktura treningu i wnioskowania, 2025-2029 | $251B to $672B, ~28% CAGR | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| Wzrost wnioskowania kontra trening | Inference grows >2x faster | Bloomberg Intelligence, via Cerebras S-1 (2026) |
Uwaga o rozbieżności: szacunki na 2030 rok dla “wnioskowania AI” wahają się od około 255 mld USD (MarketsandMarkets) do 313 mld USD do 2034 roku (Fortune Business Insights); różnica odzwierciedla odmienny zakres i rok bazowy, a nie błąd w danych.
7. Energia i koszt na zapytanie
Zużycie zasobów na zapytanie spada tak samo szybko jak cena w dolarach, a rok 2025 był rokiem, w którym największy dostawca wreszcie opublikował liczby. Google ujawniło, że medianowe zapytanie tekstowe Gemini zużywa 0,24 wat-godziny energii elektrycznej — i że ta liczba spadła 33-krotnie w ciągu poprzednich 12 miesięcy. Niezależne szacunki mieszczą się w tym samym przedziale, co stanowi przydatną kontrolę krzyżową obliczeń dostawcy. Zastrzeżenie ma znaczenie: to wartości medianowe, a złożone zadania rozumowania lub agentowe zużywają od kilku do kilkudziesięciu wat-godzin, więc przeciętny rachunek rośnie w miarę przechodzenia produktów do cięższych obciążeń.
| Metryka | Wartość | Źródło |
|---|---|---|
| Energia medianowego zapytania tekstowego Gemini | 0.24 watt-hours | Google Cloud (2025) |
| Woda / węgiel medianowego zapytania Gemini | 0.26 mL / 0.03 gCO2e | Google Cloud (2025) |
| Energia na medianowe zapytanie Gemini, zmiana w 12 miesięcy | Fell 33x | Google Cloud (2025) |
| Węgiel na medianowe zapytanie Gemini, zmiana w 12 miesięcy | Fell 44x | Google Cloud (2025) |
| Energia przeciętnego zapytania ChatGPT | ~0.34 watt-hours | OpenAI (Sam Altman, 2025) |
| Szacunek typowego zapytania | ~0.3 watt-hours | Epoch AI (2025) |
| Energia złożonego / agentowego zapytania | Several to tens of watt-hours | Google Cloud (2025) |
Kontekst: ujawnienie Google obejmuje moc całego systemu, w tym moce bezczynne i narzuty centrum danych (PUE) — szerszą granicę niż liczby dotyczące samego chipa często cytowane gdzie indziej, więc nie jest bezpośrednio porównywalne z szacunkami na kolanie.
Podsumowanie: koszt wnioskowania AI w liczbach
| Metryka | Wartość | Źródło |
|---|---|---|
| Cena równoważna GPT-3 | $60/M (2021) to $0.06/M (2024), 1,000x | a16z, LLMflation (2024) |
| Cena równoważna GPT-3.5 | 280-fold drop, late 2022 to Oct 2024 | Stanford HAI, AI Index (2025) |
| Spadek ceny między testami | Median 50x/year; 200x/year since Jan 2024 | Epoch AI (2025) |
| Postęp efektywności algorytmicznej | ~3x per year | The Price of Progress (arXiv, 2025) |
| Średnia H100 na żądanie | ~$3.61 per GPU-hour, 42 providers | getdeploying (2026) |
| Spadek ceny H100 od szczytu | 64% to 75% | GPU price trackers (2026) |
| Koszt sprzętu ML / efektywność energetyczna | -30% / +40% per year | Stanford HAI, AI Index (2025) |
| Koszt za token NVIDIA GB300 NVL72 | $0.12/M, 35x lower than Hopper | NVIDIA, InferenceMAX (2025) |
| Przepustowość tokenów Google | 3.2 quadrillion/month, 7x YoY | Google I/O (2026) |
| Wydatki przedsiębiorstw na API LLM | $3.5B to $8.4B in six months | Menlo Ventures (2025) |
| Obciążenia głównie wnioskowaniowe | 74% of builders, up from 48% | Menlo Ventures (2025) |
| Koszt wnioskowania OpenAI w 2025 | ~$8.4B, ~4x YoY | The Information (2025) |
| Koszt wnioskowania Anthropic w 2025 | ~$2.7B, >3x growth | The Information (2025) |
| DeepSeek R1 kontra OpenAI o1 | ~96% cheaper (~27x) | pricepertoken (2026) |
| Rynek wnioskowania AI | $106B (2025) to $255B (2030), 19.2% CAGR | MarketsandMarkets (2025) |
| Łączna infrastruktura treningu i wnioskowania | $251B (2025) to $672B (2029) | Bloomberg Intelligence, via Cerebras S-1 (2026) |
| Energia medianowego zapytania Gemini | 0.24 Wh, down 33x in 12 months | Google Cloud (2025) |
| Prognoza kosztu Gartner na 2030 | 1T-param inference >90% cheaper vs 2025 | Gartner (2025) |
| Mnożnik tokenów zapytań agentowych | 5x to 30x more tokens | Gartner (2025) |
| Rabat Batch API OpenAI | Flat 50% for 24-hour window | OpenAI (2026) |
Metodologia i źródła
Dane zebrano, agregując liczby z raportów pierwotnych, ujawnień spółek, dokumentów regulacyjnych, nazwanych trackerów cen z publiczną metodologią oraz recenzowanych analiz opublikowanych w latach 2024-2026, nadając priorytet danym z 2025-2026 roku i śledząc wzmianki prasy branżowej z powrotem do źródła pierwotnego.
- Andreessen Horowitz (a16z), Welcome to LLMflation (2024) — a16z.com
- Epoch AI, LLM Inference Price Trends i How Much Energy Does ChatGPT Use? (2025) — epoch.ai
- Stanford HAI, 2025 AI Index Report, rozdział Research and Development (2025) — hai.stanford.edu
- The Price of Progress: Algorithmic Efficiency and the Falling Cost of AI Inference (arXiv:2511.23455, 2025)
- Gartner, prognoza kosztów wnioskowania AI, cytowana przez CIO Dive (2025)
- NVIDIA, Blackwell InferenceMAX Benchmark Results (październik 2025)
- Google / Google Cloud, Measuring the Environmental Impact of AI Inference (2025); doniesienia MIT Technology Review (2025)
- Tomasz Tunguz, The Trillion Token Race (2025); keynote Google I/O 2026 (Sundar Pichai)
- Menlo Ventures, 2025: The State of Generative AI in the Enterprise (2025)
- The Information, doniesienia o kosztach wnioskowania OpenAI i Anthropic (2025)
- Bloomberg Intelligence, szacunki rynkowe cytowane w prospekcie S-1 Cerebras Systems, amerykańska SEC (2026)
- Barclays Research, szacunek capexu na chipy wnioskowania konsumenckiego AI (2025)
- DeepSeek, dokumentacja cennika API (2026); ceny modeli pricepertoken.com (2026)
- OpenAI, dokumentacja Batch API (2026); publiczne oświadczenie Sama Altmana o energii zapytań (2025)
- getdeploying i inne trackery cen chmurowych NVIDIA H100 (2026)
- MarketsandMarkets, Grand View Research i Fortune Business Insights, raporty rynku wnioskowania AI (2024-2026); The Business Research Company, rynek chipów wnioskowania AI (2026, via GlobeNewswire)
Data watch: Stanford HAI publikuje AI Index co roku (kolejna edycja spodziewana około kwietnia 2027 roku); Menlo Ventures odświeża raport State of Generative AI co roku; Epoch AI aktualizuje swoje trackery cen wnioskowania i trendów w sposób ciągły; Google ma aktualizować ujawnienie wpływu środowiskowego co roku; a Gartner i firmy badawcze rynku ponownie wydają swoje prognozy wnioskowania w cyklach kroczących. Ceny czołowych API zmieniają się często, więc liczby za token są aktualne na dany moment.
Ostatnia aktualizacja: 10 lipca 2026 roku.
Przeglądamy i aktualizujemy tę stronę co kwartał, gdy pojawiają się nowe dane.