Pada satu GPU NVIDIA V100, vocoder HiFi-GAN V3 menghasilkan audio 1.186,80 kali lebih cepat dari waktu nyata, sementara WaveNet autoregresif hanya mencapai 0,003 kali waktu nyata pada kartu yang sama (Kong dkk., HiFi-GAN 2020). Kesenjangan itu, lebih dari lima orde besaran, menjelaskan mengapa sintesis ucapan berubah dari kemewahan pusat data menjadi sesuatu yang bisa dilakukan sebuah ponsel. Hambatannya sejak itu bergeser: makalah asli F5-TTS, model zero-shot besar, melaporkan 0,15 detik waktu GPU per detik ucapan (Chen dkk., F5-TTS 2024), dan uji streaming pada satu A100 mengukur audio pertama dari 102 ms hingga 1.643 ms tergantung sistemnya (KTH, VoXtream 2025). Dari sisi harga, harga daftar cloud utama berkisar dari $4 hingga $160 per sejuta karakter, selisih 40 kali lipat untuk satuan teks yang sama. Kami menghimpun data dari makalah yang ditinjau sejawat dan arXiv oleh KTH, Kyutai, dan Apple, dokumentasi kinerja Riva dari NVIDIA, serta halaman harga resmi Google Cloud, Amazon Web Services, Microsoft Azure, dan OpenAI; skor kualitas dibahas terpisah dalam statistik MOS ucapan sintetis kami.
Catatan tentang satuan yang dipakai sepanjang artikel ini: faktor waktu nyata (RTF) biasanya berarti waktu komputasi dibagi durasi audio, sehingga RTF 0,1 berarti satu detik ucapan butuh 0,1 detik untuk dihasilkan, dan semakin rendah semakin baik. Beberapa sumber membalik rasio ini dan melaporkan berapa detik audio keluar per detik komputasi (NVIDIA menyebutnya RTFX, dan beberapa makalah menuliskannya sebagai ‘kali lebih cepat dari waktu nyata’), di mana semakin tinggi semakin baik. Dalam tabel, RTF berarti konvensi lebih rendah lebih cepat kecuali sebuah baris menyebut ‘kali waktu nyata’, ‘RTFX’, atau ‘lebih tinggi lebih cepat’.
TL;DR
- FastSpeech 2 menurunkan RTF dari 0,932 untuk Transformer TTS menjadi 0,0195, percepatan 47,8x (Ren dkk., FastSpeech 2 2020).
- Matcha-TTS dengan 2 langkah sampling mengukur RTF 0,015 termasuk vocoder (Mehta dkk., Matcha-TTS 2023).
- F5-TTS melaporkan RTF 0,15 pada 16 langkah dibandingkan 0,92 untuk CosyVoice dalam tabel perbandingannya (Chen dkk., F5-TTS 2024).
- VoXtream mencapai latensi paket pertama 102 ms pada A100, sedangkan CosyVoice2 dalam mode aliran penuh membutuhkan 1.643 ms pada uji yang sama (KTH, VoXtream 2025).
- Latensi DSM-TTS milik Kyutai naik dari 150 ms pada ukuran batch 1 menjadi 403 ms pada ukuran batch 64, sementara throughput mencapai 137,3 kali waktu nyata (Kyutai, DSM-TTS 2025).
- Pipeline FastPitch plus HiFi-GAN milik NVIDIA Riva naik dari latensi audio pertama 22 ms pada 1 aliran menjadi 323 ms pada 32 aliran (dokumentasi NVIDIA Riva 2.16.0, dijalankan vendor).
- Sistem on-device milik Apple berjalan 1,47 hingga 3,03 kali lebih cepat dari waktu nyata pada dua perangkat seluler (Apple, On-device neural speech synthesis 2021).
- Mobile PresenTra milik NICT mencapai RTF batch sekitar 0,3 pada Google Pixel 5 kelas menengah (Okamoto dkk., Mobile PresenTra, Interspeech 2024).
- Memangkas SupertonicTTS dari 8 menjadi 4 langkah sampling menaikkan tingkat kesalahan kata dari 2,818% menjadi 11,43% (Supertone, SupertonicTTS 2025).
- Fast F5-TTS berjalan sekitar 4 kali lebih cepat daripada baseline 32 langkah sementara tingkat kesalahan kata bergeser dari 2,37% ke 2,45% (Zheng dkk., Interspeech 2025).
- Google Cloud mencantumkan $4 per 1 juta karakter untuk suara Standard dan $160 untuk suara Studio (harga Google Cloud Text-to-Speech 2026).
- Amazon menyamakan 1 juta karakter dengan sekitar 23 jam 8 menit ucapan, yang menempatkan Polly Generative pada sekitar $1,30 per jam audio (harga AWS Amazon Polly 2026).
1. Faktor Waktu Nyata Menurut Keluarga Model di GPU
Lonjakan kecepatan besar pertama datang dari meninggalkan autoregresi pada model akustik, bagian yang mengubah teks menjadi spektrogram mel (gambaran waktu-frekuensi dari ucapan). FastSpeech 2 mengukur RTF 0,0195 dibandingkan 0,932 untuk Transformer TTS pada server V100 yang sama, percepatan inferensi 47,8x (Ren dkk., FastSpeech 2). Begitu sebuah model memprediksi semua frame secara paralel, ia tidak lagi harus menunggu keluaran sebelumnya sendiri, frame demi frame.
Keluarga yang lebih baru tidak membatalkan keuntungan itu, tetapi menyebarkannya. Model difusi dan flow-matching seperti Grad-TTS dan Matcha-TTS menukar beberapa kali lintasan jaringan tambahan dengan kualitas yang lebih baik, dan pada tolok ukur Matcha-TTS di GPU RTX 3090, semua sistem yang diuji tetap di bawah RTF 0,08 termasuk vocoding (Mehta dkk., Matcha-TTS). Angka yang menarik di sana bukan rata-rata melainkan sebarannya: VITS mencatat 0,074 dengan simpangan baku 0,083, lebih besar daripada rata-ratanya sendiri, yang menandakan kecepatan sangat tidak merata dari kalimat ke kalimat.
| Metrik | Nilai | Sumber |
|---|---|---|
| RTF Transformer TTS, GPU V100, ukuran batch 1 (lebih rendah lebih cepat) | 0,932 | Ren dkk., FastSpeech 2 2020 |
| RTF FastSpeech 2 dan percepatan dibanding Transformer TTS, pengaturan sama | 0,0195 (47,8x) | Ren dkk., FastSpeech 2 2020 |
| RTF FastSpeech 2s (teks langsung ke bentuk gelombang) dan percepatan | 0,0180 (51,8x) | Ren dkk., FastSpeech 2 2020 |
| RTF FastSpeech 2 dalam uji Matcha-TTS, termasuk vocoder, RTX 3090 | 0,010 (simpangan baku 0,004) | Mehta dkk., Matcha-TTS 2023 |
| RTF Matcha-TTS dengan 2 langkah sampling versus 10 langkah sampling | 0,015 versus 0,038 | Mehta dkk., Matcha-TTS 2023 |
| RTF Grad-TTS dengan 10 langkah sampling | 0,049 | Mehta dkk., Matcha-TTS 2023 |
| RTF VITS dalam uji Matcha-TTS (rata-rata dan simpangan baku) | 0,074 (0,083) | Mehta dkk., Matcha-TTS 2023 |
| RTF StyleTTS 2 versus RTF VITS dalam uji StyleTTS 2 | 0,0185 versus 0,0599 | Li dkk., StyleTTS 2 2023 |
Data terbaru yang tersedia: FastSpeech 2 (2020), StyleTTS 2 (2023), dan Matcha-TTS (2023), semuanya berusia lebih dari tiga tahun. Nilai RTF dari makalah yang berbeda tidak dapat dibandingkan langsung, karena GPU, ukuran batch, dan apakah vocoder disertakan semuanya berbeda. Penulis Matcha-TTS juga melaporkan bahwa model 2 langkah mereka menjadi kompetitif dengan FastSpeech 2 pada ujaran yang lebih panjang.
2. Vocoder: Ke Mana Daya Komputasi Pergi
Vocoder mengubah spektrogram mel menjadi bentuk gelombang yang dapat didengar, dan selama bertahun-tahun ia merupakan separuh pipeline yang mahal. WaveNet menghasilkan 0,07 kHz audio pada GPU V100, yaitu 0,003 kali waktu nyata, sementara HiFi-GAN V1 menghasilkan 3.701 kHz, atau 167,86 kali waktu nyata (Kong dkk., HiFi-GAN). Intinya bukan hanya bahwa vocoder GAN itu cepat; melainkan bahwa vocoder berhenti menjadi alasan sebuah produk TTS memerlukan GPU sama sekali.
Pola yang sama kini berulang di dalam sistem streaming. Makalah SpeakStream dari Apple menunjukkan model akustik memakan sekitar 28 ms sementara vocoder Parallel WaveGAN (PWG) menambah 152 ms; beralih ke vocoder streaming memangkas tahap itu menjadi 13 ms (Apple, SpeakStream). Dengan kata lain, pilihan vocoder saja yang menentukan apakah audio pertama tiba dalam sekitar 40 ms atau sekitar 180 ms.
| Metrik | Nilai | Sumber |
|---|---|---|
| Kecepatan WaveNet (MoL) versus WaveGlow versus MelGAN pada GPU V100, kali waktu nyata (lebih tinggi lebih cepat) | 0,003x versus 22,75x versus 645,73x | Kong dkk., HiFi-GAN 2020 |
| Kecepatan HiFi-GAN V1 versus HiFi-GAN V3 pada GPU V100, kali waktu nyata | 167,86x versus 1.186,80x | Kong dkk., HiFi-GAN 2020 |
| RTF vocoder BigVGAN versus RTF autoencoder ucapan SupertonicTTS, RTX 4090 (lebih rendah lebih cepat) | 0,0124 versus 0,0006 | Supertone, SupertonicTTS 2025 |
| SpeakStream pada Mac mini M4 Pro, dengan PWG versus dengan vocoder streaming VocStream: waktu vocoder dan total waktu audio pertama | 152 ms versus 13 ms; 180 ms versus 40 ms | Apple, SpeakStream 2025 |
Data terbaru yang tersedia: Kong dkk., HiFi-GAN 2020, diukur dalam floating point 32-bit tanpa optimasi lebih lanjut. Dalam uji Matcha-TTS, vocoder saja berjalan pada RTF 0,001, sehingga dalam pengaturan itu ia hanya sebagian kecil dari total waktu sintesis (Matcha-TTS).
3. Model Zero-Shot Besar: Biaya Kecepatan dari Kloning Suara dalam Skala Besar
Model zero-shot, yang meniru suara baru dari prompt singkat tanpa pelatihan ulang, membawa kecepatan kembali ke dalam pembicaraan. Tabel perbandingan F5-TTS mencantumkan CosyVoice pada RTF 0,92 dan FireRedTTS pada 0,84, artinya setiap detik ucapan memakan sebagian besar dari satu detik untuk dihitung (Chen dkk., F5-TTS). F5-TTS sendiri melaporkan 0,15 pada 16 langkah sampling di RTX 3090, atau sekitar 6,7 kali lebih cepat dari waktu nyata (1 dibagi 0,15). Itu cukup cepat untuk pekerjaan buku audio secara batch tetapi pas-pasan untuk melayani banyak pengguna langsung dari satu kartu.
Model yang lebih kecil menutup kesenjangan. SupertonicTTS, dengan 44M parameter, melaporkan 0,02 pada RTX 4090 dan 0,05 pada RTX 3090, dibandingkan 0,31 untuk F5-TTS pada 32 langkah di RTX 3090 (Supertone, SupertonicTTS). Bagi tim yang mengevaluasi generator suara AI, jumlah parameter saja adalah panduan yang buruk untuk biaya layanan: tabel di bawah mencantumkan DiTTo-TTS dengan 740M parameter lebih cepat daripada Voicebox dengan 330M, meskipun kedua angka itu mungkin tidak berasal dari perangkat keras yang sama.
| Metrik | Nilai | Sumber |
|---|---|---|
| RTF F5-TTS, 16 versus 32 langkah sampling, RTX 3090, 10 dtk ucapan (lebih rendah lebih cepat) | 0,15 versus 0,31 | Chen dkk., F5-TTS 2024 |
| RTF CosyVoice (sekitar 300M parameter) versus FireRedTTS (sekitar 580M) | 0,92 versus 0,84 | Chen dkk., F5-TTS 2024 |
| RTF Voicebox (330M) versus VALL-E 2 | 0,64 versus 0,732 | Chen dkk., F5-TTS 2024 |
| RTF DiTTo-TTS (740M) versus NaturalSpeech 3 (500M) | 0,162 versus 0,296 | Chen dkk., F5-TTS 2024 |
| RTF SupertonicTTS (44M) pada RTX 4090 versus RTX 3090 | 0,02 versus 0,05 | Supertone, SupertonicTTS 2025 |
| Kelipatan waktu nyata pada ukuran batch 1 (lebih tinggi lebih cepat): DSM-TTS versus Chatterbox versus CSM | 3,2 versus 1,8 versus 1,0 | Kyutai, DSM-TTS 2025 |
| Kelipatan waktu nyata pada ukuran batch 1: Dia dan Orpheus | masing-masing 0,7 (lebih lambat dari waktu nyata) | Kyutai, DSM-TTS 2025 |
Catatan konteks: makalah F5-TTS tidak menyebutkan bagaimana nilai RTF baseline diukur, dan nilai itu mungkin tidak memakai RTX 3090 yang sama, jadi perlakukan baris 2 hingga 4 sebagai indikatif. Makalah yang lebih baru mengukur F5-TTS sendiri pada 0,065 dan 0,123 di RTX 3090 (lihat bagian 6). Tabel Kyutai memakai konvensi terbalik, di mana nilai di bawah 1,0 berarti model tidak dapat mengimbangi pemutaran.
4. Waktu hingga Audio Pertama pada Streaming dan Konkurensi Layanan
Untuk penggunaan langsung, angka yang penting bukan RTF melainkan berapa lama pendengar menunggu bunyi pertama. Pada satu tolok ukur A100, VoXtream dengan torch.compile mulai berbicara setelah 102 ms, sementara CosyVoice2 dalam mode aliran penuh membutuhkan 1.643 ms (KTH, VoXtream). Aliran penuh berarti model mulai saat teks masih berdatangan; sebuah sistem bisa memiliki RTF yang layak namun latensi paket pertama yang buruk jika ia menunggu seluruh frasa.
Konkurensi adalah separuh lainnya. Menumpuk lebih banyak pengguna ke satu GPU menaikkan throughput total tetapi memperpanjang waktu tunggu setiap pengguna. DSM-TTS milik Kyutai naik dari 150 ms pada ukuran batch 1 menjadi 403 ms pada ukuran batch 64, sementara throughput naik dari 3,2 menjadi 137,3 kali waktu nyata (Kyutai, DSM-TTS). Tabel Riva milik NVIDIA sendiri menunjukkan kurva yang sama pada pipeline FastPitch plus HiFi-GAN: latensi audio pertama tumbuh sekitar 15 kali lipat dari 1 hingga 32 aliran sementara throughput tumbuh sekitar 2,9 kali lipat (kinerja TTS NVIDIA Riva). Bagaimana angka-angka ini masuk dalam anggaran latensi agen suara secara penuh dibahas dalam statistik waktu hingga audio pertama agen suara kami.
| Metrik | Nilai | Sumber |
|---|---|---|
| Latensi paket pertama dan RTF VoXtream dengan torch.compile, A100, FP16 | 102 ms (RTF 0,17) | KTH, VoXtream 2025 |
| Latensi paket pertama dan RTF VoXtream tanpa kompilasi | 171 ms (RTF 1,00) | KTH, VoXtream 2025 |
| Latensi paket pertama XTTS-v2, keluaran streaming, tanpa versus dengan DeepSpeed | 295 ms versus 196 ms | KTH, VoXtream 2025 |
| Latensi paket pertama dan RTF CosyVoice2, mode aliran penuh, uji A100 yang sama | 1.643 ms (RTF 0,85) | KTH, VoXtream 2025 |
| Latensi DSM-TTS pada ukuran batch 1 versus 32 versus 64 | 150 ms versus 380 ms versus 403 ms | Kyutai, DSM-TTS 2025 |
| Throughput DSM-TTS pada ukuran batch 64, kali waktu nyata | 137,3x | Kyutai, DSM-TTS 2025 |
| Rata-rata latensi audio pertama Riva FastPitch plus HiFi-GAN, 1 aliran versus 32 aliran | 22 ms versus 323 ms | Dokumentasi NVIDIA Riva 2.16.0 (dijalankan vendor) |
| Throughput Riva (RTFX, lebih tinggi lebih cepat), 1 aliran versus 32 aliran | 150,8 versus 440 | Dokumentasi NVIDIA Riva 2.16.0 (dijalankan vendor) |
Catatan konteks: README proyek CosyVoice mengklaim latensi ‘serendah 150 ms’ untuk model Fun-CosyVoice 3.0 yang lebih baru (FunAudioLLM CosyVoice di GitHub), klaim proyek untuk versi yang berbeda dari yang diukur KTH. Kami tidak menyebut GPU untuk baris Riva: baris itu adalah tabel hasil pertama pada halaman NVIDIA, yang daftar GPU-nya dimulai dengan A100, tetapi teks halaman yang dapat kami baca tidak mengaitkan setiap tabel dengan label GPU-nya.
5. CPU, Seluler, dan Perangkat Edge
Di luar GPU, margin kecepatan menyusut dengan cepat. HiFi-GAN V1, yang berjalan 167,86 kali lebih cepat dari waktu nyata pada V100, hanya mampu 1,43 kali waktu nyata pada CPU Intel i7 laptop, sementara WaveGlow turun ke 0,21 kali, terlalu lambat untuk pemutaran langsung (Kong dkk., HiFi-GAN). Model yang menang di server sering kali merupakan pilihan yang salah untuk laptop, dan HiFi-GAN V3 yang lebih kecil (13,44 kali waktu nyata pada CPU yang sama) menunjukkan betapa pentingnya pilihan arsitektur di sini.
Model kecil yang dibuat khusus melangkah jauh lebih jauh. EfficientSpeech, dengan 266k parameter dan 90 MFLOPS, menghasilkan spektrogram mel 104,3 kali lebih cepat dari waktu nyata pada Raspberry Pi 4, sekitar 1% dari ukuran dan komputasi model ringkas seperti Mixer-TTS (EfficientSpeech). Pekerjaan on-device Apple menunjukkan pipeline lengkap berjalan pada dua perangkat seluler, dengan buffer audio pertama diputar 158 hingga 179 ms setelah permintaan (Apple, On-device neural speech synthesis). Tren perangkat keras di balik pergeseran ini dipantau dalam statistik prosesor suara AI edge kami.
Pengukuran terbaru menunjukkan seberapa besar pilihan desain berpengaruh pada chip yang sama. Pada satu thread AMD EPYC 7413, model streaming dari Samsung Research mencapai RTF 0,568 dan menghasilkan token akustik pertamanya dalam 0,061 dtk, dibandingkan 7,665 dan 41,41 dtk untuk VALL-E X (Lee dkk., Interspeech 2025). NICT melaporkan RTF batch sekitar 0,3 dan latensi inkremental kurang dari 0,5 dtk pada Google Pixel 5, yang mereka gambarkan sebagai ponsel kelas menengah (Okamoto dkk., Mobile PresenTra).
| Metrik | Nilai | Sumber |
|---|---|---|
| Kecepatan HiFi-GAN V1 versus HiFi-GAN V3 versus WaveGlow pada CPU Intel i7 laptop, kali waktu nyata | 1,43x versus 13,44x versus 0,21x | Kong dkk., HiFi-GAN 2020 |
| Kecepatan sintesis ujung ke ujung Apple, perangkat seluler A versus perangkat B, kali waktu nyata | 1,47x versus 3,03x | Apple, On-device neural speech synthesis 2021 |
| Latensi yang dirasakan pelanggan Apple (dari permintaan hingga buffer audio pertama diputar), perangkat A versus perangkat B | 179 ms versus 158 ms | Apple, On-device neural speech synthesis 2021 |
| Mobile PresenTra pada Google Pixel 5: RTF batch; latensi inkremental | sekitar 0,3; kurang dari 0,5 dtk | Okamoto dkk. (NICT), Mobile PresenTra, Interspeech 2024 |
| RTF pada satu thread CPU AMD EPYC 7413, hanya pembangkitan token (lebih rendah lebih cepat): SMAM+INR versus Small-E versus VALL-E X | 0,568 versus 2,404 versus 7,665 | Lee dkk. (Samsung Research), Interspeech 2025 |
| Waktu hingga token akustik pertama pada thread CPU yang sama: SMAM+INR versus Small-E versus VALL-E X | 0,061 dtk versus 14,34 dtk versus 41,41 dtk | Lee dkk. (Samsung Research), Interspeech 2025 |
| Parameter EfficientSpeech dan kecepatan pembangkitan mel pada Raspberry Pi 4 | 266k parameter, 104,3x waktu nyata | EfficientSpeech 2023 |
| Nix-TTS versus model guru VITS-nya, RTF pada Raspberry Pi 3B (di atas 1,0 lebih lambat dari waktu nyata) | 1,974 versus 16,50 | Nix-TTS 2022 |
Data terbaru yang tersedia: Kong dkk. 2020, Apple 2021, Nix-TTS 2022, dan EfficientSpeech 2023 berusia lebih dari tiga tahun; kami tidak menemukan angka baru yang ditinjau sejawat untuk perbandingan persis tersebut. Abstrak Apple membulatkan angka seluler menjadi ‘3x lebih cepat dari waktu nyata’, tetapi tabelnya menunjukkan perangkat A pada 1,47x. Angka EfficientSpeech hanya mencakup pembangkitan mel, bukan vocoder, dan baris Samsung tidak mencakup pemrosesan codec, sehingga keduanya bukan pipeline ucapan lengkap.
6. Pertukaran Kecepatan dan Kualitas
Model difusi dan flow-matching menyajikan kecepatan sebagai kenop pengatur: jumlah langkah sampling (evaluasi fungsi jaringan, atau NFE). SupertonicTTS mempertahankan tingkat kesalahan kata antara 2,639% dan 2,818% dari 8 hingga 128 langkah, tetapi pada 4 langkah tingkat kesalahan melonjak menjadi 11,43% dan skor kualitas NISQA turun menjadi 2,623 (Supertone, SupertonicTTS). Kejelasan ucapan tidak memudar secara bertahap; ia bertahan stabil lalu runtuh di tebing, sehingga pengaturan aman yang paling murah berada tepat di atasnya.
Tebing itu dapat bergeser tanpa perangkat keras baru. Pada RTX 3090, F5-TTS dengan 7 langkah berjarak sama dan Fast F5-TTS dengan 7 langkah terpangkas sama-sama berjalan pada RTF 0,030, tetapi hanya pilihan di mana langkah-langkah itu jatuh yang menurunkan tingkat kesalahan kata dari 4,16% menjadi 2,45%, mendekati 2,37% baseline 32 langkah pada 0,123 (Zheng dkk., Interspeech 2025).
Bentuk yang sama muncul pada vocoder dan streaming. HiFi-GAN V3 berjalan sekitar 7,07 kali lebih cepat daripada V1 pada GPU V100 (26.169 kHz dibagi 3.701 kHz), dengan penurunan MOS dari 4,36 menjadi 4,05 (Kong dkk., HiFi-GAN). CosyVoice 2 menyebut mode streaming-nya ‘hampir tanpa kehilangan pada kasus uji umum’, namun pada set uji sulitnya tingkat kesalahan kata naik dari 6,83% secara offline menjadi 8,08% saat streaming (CosyVoice 2).
| Metrik | Nilai | Sumber |
|---|---|---|
| SupertonicTTS pada 4 versus 8 langkah sampling: RTF; tingkat kesalahan kata; skor NISQA | 0,006 versus 0,011; 11,43% versus 2,818%; 2,623 versus 3,916 | Supertone, SupertonicTTS 2025 |
| SupertonicTTS pada 32 langkah (pengaturan terpilih) versus 128 langkah: RTF; skor NISQA (rekaman bernilai 4,070) | 0,037 versus 0,140; 4,033 versus 4,070 | Supertone, SupertonicTTS 2025 |
| RTF F5-TTS pada RTX 3090 dengan 32 versus 16 versus 7 langkah sampling | 0,123 versus 0,065 versus 0,030 | Zheng dkk., Interspeech 2025 |
| Tingkat kesalahan kata pada LibriSpeech-PC dengan 7 langkah, F5-TTS berjarak sama versus Fast F5-TTS (baseline 32 langkah 2,37%) | 4,16% versus 2,45% | Zheng dkk., Interspeech 2025 |
| MOS Matcha-TTS dengan 2 versus 10 langkah sampling | 3,65 versus 3,84 | Mehta dkk., Matcha-TTS 2023 |
| Tingkat kesalahan kata CosyVoice 2 pada set uji sulit, offline versus streaming | 6,83% versus 8,08% | CosyVoice 2 2024 |
| RTF StyleTTS 2 dengan 4 versus 128 langkah difusi | 0,0179 versus 0,0963 | Li dkk., StyleTTS 2 2023 |
Catatan konteks: NISQA adalah prediktor kualitas ucapan otomatis non-intrusif yang memperkirakan skor ala pendengar tanpa rekaman acuan; ini bukan uji dengar oleh manusia. Tabel langkah SupertonicTTS tidak menyebut perangkat kerasnya, dan angka 0,037 pada 32 langkah berbeda dari 0,02 yang dilaporkan di bagian lain makalah yang sama.
7. Harga per Sejuta Karakter dan per Jam Audio
Harga daftar menunjukkan pasar yang terbagi menjadi tingkatan, bukan satu harga yang berlaku umum. Google Cloud mengenakan $4 per 1 juta karakter untuk suara Standard dan WaveNet tetapi $160 untuk suara Studio, selisih 40 kali lipat untuk teks yang sama (harga Google Cloud Text-to-Speech). Amazon Polly berkisar dari $4 untuk Standard hingga $100 untuk suara Long-Form, dan contohnya sendiri menyamakan 1 juta karakter dengan sekitar 23 jam 8 menit ucapan (harga AWS Amazon Polly).
Dengan konversi AWS itu (23 jam 8 menit sekitar 23,13 jam), Polly Generative seharga $30 menjadi sekitar $1,30 per jam audio (30 dibagi 23,13), dan Standard sekitar $0,17. Model dengan harga per token memerlukan perhitungan berbeda: Google menyatakan audio Gemini TTS adalah 25 token per detik, jadi satu jam adalah 90.000 token audio, dan Gemini 2.5 Pro TTS seharga $20 per juta token audio menjadi $1,80 per jam keluaran sebelum biaya masukan teks. Model open-weight memampatkan ini lebih jauh: Artificial Analysis mencantumkan Kokoro 82M di Replicate seharga $0,65 per juta karakter (papan peringkat teks-ke-ucapan Artificial Analysis). Untuk ekonomi GPU yang lebih luas di balik harga-harga ini, lihat statistik biaya inferensi AI kami.
| Metrik | Nilai | Sumber |
|---|---|---|
| Harga daftar Google Cloud per 1 juta karakter: Standard dan WaveNet versus Neural2 | $4 versus $16 | Harga Google Cloud Text-to-Speech 2026 |
| Harga daftar Google Cloud per 1 juta karakter: Chirp 3 HD versus Instant custom voice versus Studio | $30 versus $60 versus $160 | Harga Google Cloud Text-to-Speech 2026 |
| Harga daftar Amazon Polly per 1 juta karakter: Standard, Neural, Generative, Long-Form | $4, $16, $30, $100 | Harga AWS Amazon Polly 2026 |
| Suara neural Microsoft Azure, bayar sesuai pemakaian versus harga kelebihan pemakaian pada tingkat komitmen 2.000M karakter, per 1 juta karakter | $15 versus $7,50 | Harga Microsoft Azure Speech 2026 |
| OpenAI tts-1 (dijelaskan dioptimalkan untuk kecepatan) versus tts-1-hd, per 1 juta karakter | $15 versus $30 | Harga API OpenAI 2026 |
| Harga keluaran audio Gemini 2.5 Pro TTS dan biaya turunan per jam audio (25 token per detik) | $20 per 1 juta token audio, sekitar $1,80 per jam | Harga Google Cloud Text-to-Speech 2026 (diturunkan) |
| Amazon Polly Generative dan Standard, biaya turunan per jam audio | sekitar $1,30 dan sekitar $0,17 | Harga AWS Amazon Polly 2026 (diturunkan) |
| Harga API Kokoro 82M yang di-host per 1 juta karakter (Replicate) | $0,65 | Papan peringkat TTS Artificial Analysis 2026 |
Catatan konteks: ini adalah harga daftar per 31 Oktober 2026, sebelum diskon hasil negosiasi. Tingkat komitmen Azure dimulai dari $960 untuk 80M karakter, yaitu $12 per juta (960 dibagi 80). Tingkat gratis sangat beragam: Polly Standard menyertakan 5 juta karakter per bulan, sedangkan Polly Generative menyertakan 100 ribu karakter per bulan selama 12 bulan pertama. Kartu model Kokoro sendiri menyebut model itu dilatih dengan biaya sekitar $1.000 menggunakan 1.000 jam GPU A100 80GB (kartu model Kokoro-82M), yang menunjukkan betapa sedikit komputasi pelatihan yang kini dibutuhkan untuk suara berbiaya rendah.
Ringkasan: Faktor Waktu Nyata dan Biaya Inferensi Teks-ke-Ucapan dalam Angka
| Metrik | Nilai | Sumber |
|---|---|---|
| Kecepatan HiFi-GAN V3 versus WaveNet pada GPU V100, kali waktu nyata | 1.186,80x versus 0,003x | Kong dkk., HiFi-GAN 2020 |
| RTF FastSpeech 2 versus Transformer TTS | 0,0195 versus 0,932 | Ren dkk., FastSpeech 2 2020 |
| RTF Matcha-TTS dengan 2 langkah sampling, termasuk vocoder | 0,015 | Mehta dkk., Matcha-TTS 2023 |
| RTF F5-TTS pada 16 langkah versus RTF CosyVoice | 0,15 versus 0,92 | Chen dkk., F5-TTS 2024 |
| Latensi paket pertama VoXtream versus CosyVoice2, uji A100 yang sama | 102 ms versus 1.643 ms | KTH, VoXtream 2025 |
| Latensi DSM-TTS, ukuran batch 1 versus 64 | 150 ms versus 403 ms | Kyutai, DSM-TTS 2025 |
| Latensi audio pertama Riva, 1 versus 32 aliran | 22 ms versus 323 ms | Dokumentasi NVIDIA Riva 2.16.0 (dijalankan vendor) |
| Audio pertama SpeakStream dengan PWG versus vocoder streaming | 180 ms versus 40 ms | Apple, SpeakStream 2025 |
| Kecepatan sintesis on-device Apple, dua perangkat seluler | 1,47x dan 3,03x waktu nyata | Apple, On-device neural speech synthesis 2021 |
| Pembangkitan mel EfficientSpeech pada Raspberry Pi 4 | 104,3x waktu nyata | EfficientSpeech 2023 |
| RTF batch Mobile PresenTra pada Google Pixel 5 | sekitar 0,3 | Okamoto dkk. (NICT), Mobile PresenTra, Interspeech 2024 |
| Tingkat kesalahan kata SupertonicTTS pada 4 versus 8 langkah sampling | 11,43% versus 2,818% | Supertone, SupertonicTTS 2025 |
| Tingkat kesalahan kata F5-TTS pada 7 langkah, berjarak sama versus jadwal terpangkas | 4,16% versus 2,45% | Zheng dkk., Interspeech 2025 |
| Tingkat kesalahan kata set sulit CosyVoice 2, offline versus streaming | 6,83% versus 8,08% | CosyVoice 2 2024 |
| Suara Standard versus Studio Google Cloud, per 1 juta karakter | $4 versus $160 | Harga Google Cloud Text-to-Speech 2026 |
| Suara Long-Form Amazon Polly, per 1 juta karakter | $100 | Harga AWS Amazon Polly 2026 |
| Ucapan yang dihasilkan 1 juta karakter, contoh harga Amazon | sekitar 23 jam 8 menit | Harga AWS Amazon Polly 2026 |
| Suara neural Azure, bayar sesuai pemakaian per 1 juta karakter | $15 | Harga Microsoft Azure Speech 2026 |
| Harga Kokoro 82M yang di-host per 1 juta karakter | $0,65 | Papan peringkat TTS Artificial Analysis 2026 |
Metodologi dan Sumber
- Kong, Kim, dan Bae: HiFi-GAN (2020), Tabel 1 kecepatan, MOS, dan jumlah parameter pada GPU V100 dan CPU laptop.
- Ren dkk.: FastSpeech 2 (2020), Tabel 2 RTF inferensi pada server V100 dengan ukuran batch 1.
- Mehta dkk.: Matcha-TTS (2023), RTF termasuk vocoding pada GPU RTX 3090.
- Li dkk.: StyleTTS 2 (2023), RTF keseluruhan dan menurut jumlah langkah difusi.
- Chen dkk.: F5-TTS (2024), RTF pada RTX 3090 untuk 10 dtk ucapan, dengan tabel perbandingan baseline.
- Supertone: SupertonicTTS (2025), RTF pada RTX 4090 dan RTX 3090, serta ablasi langkah sampling.
- KTH Royal Institute of Technology: VoXtream (2025), latensi paket pertama dan RTF dalam FP16 pada A100.
- Kyutai: Streaming Sequence-to-Sequence Learning with Delayed Streams Modeling (2025), latensi, RTF, dan throughput DSM-TTS menurut ukuran batch.
- Apple: SpeakStream (2025), latensi pada Mac mini M4 Pro dengan MLX; On-device neural speech synthesis (2021), pengukuran seluler.
- FunAudioLLM: CosyVoice 2 (2024), kualitas streaming versus offline; README GitHub CosyVoice (klaim proyek, 2026).
- EfficientSpeech (2023) dan Nix-TTS (2022), model berjejak kecil pada CPU dan Raspberry Pi.
- Makalah Interspeech: Okamoto, Ohtani, dan Kawai (NICT), Mobile PresenTra (2024), RTF dan latensi di ponsel pintar; Lee dkk. (Samsung Research), Efficient Streaming TTS Acoustic Model with Depthwise RVQ Decoding Strategies in a Mamba Framework (2025), RTF dan latensi CPU satu thread; Zheng dkk., Accelerating Flow-Matching-Based Text-to-Speech via Empirically Pruned Step Sampling (2025), kecepatan F5-TTS dan tingkat kesalahan menurut jumlah langkah.
- NVIDIA: kinerja TTS Riva 2.16.0, tabel latensi dan RTFX yang dijalankan vendor.
- Halaman harga, dibaca pada 31 Oktober 2026: Google Cloud Text-to-Speech, Amazon Polly, Microsoft Azure Speech, API OpenAI dan halaman model OpenAI tts-1.
- Papan peringkat teks-ke-ucapan Artificial Analysis (2026) dan kartu model Kokoro-82M (Hugging Face), untuk harga model open-weight dan biaya pelatihan.
- Catatan data: angka RTF tidak dapat dibandingkan antarmakalah kecuali perangkat keras, ukuran batch, presisi, dan penyertaan vocoder sama; bahkan dalam satu makalah, SupertonicTTS melaporkan 0,037 dan 0,02 untuk apa yang tampak seperti pengaturan yang sama. Makalah F5-TTS tidak menyebut bagaimana RTF baseline-nya diukur, dan kecepatan F5-TTS sendiri bertentangan antarsumber pada model GPU yang sama: makalah asli memberi 0,15 pada 16 langkah dan 0,31 pada 32 langkah di RTX 3090, sedangkan Zheng dkk. memberi 0,065 dan 0,123 di RTX 3090, tanpa penjelasan atas selisihnya pada halaman yang kami baca. Tabel 6 Kyutai tidak menyebut GPU-nya, dan makalah itu mencetak latensi sekitar 800 ms untuk F5-TTS pada 16 langkah dan sekitar 400 ms pada 32 langkah, kebalikan dari yang biasanya terjadi dengan lebih banyak langkah, sehingga kami tidak memakai kedua nilai itu. Pengukuran VoXtream dan angka README CosyVoice mencakup versi CosyVoice yang berbeda, jadi tidak dapat dibandingkan langsung. Dua konversi dari karakter ke audio saling bertentangan: contoh Amazon mengimplikasikan sekitar 720 karakter per menit (1.000.000 karakter dibagi 1.388 menit), sedangkan kartu Kokoro memakai sekitar 1.000, sehingga biaya per jam berdasarkan rasio Kokoro akan sekitar 39% lebih tinggi daripada yang berdasarkan rasio Amazon (1.000 dibagi 720 sekitar 1,39). Google Cloud melabeli model Gemini 3.8 TTS sebagai ‘Preview’, dengan harga dijadwalkan berubah pada 1 Januari 2027. Aturan MLPerf Inference dari MLCommons mencantumkan Whisper untuk ucapan-ke-teks tetapi tidak ada beban kerja teks-ke-ucapan, sehingga kecepatan TTS tidak memiliki tolok ukur industri netral di sana; beberapa makalah perangkat keras di sini berusia lebih dari tiga tahun dan ditandai sebagai data terbaru yang tersedia.
Terakhir diperbarui: 31 Oktober 2026. Kami memperbarui rangkuman ini setiap kuartal, dan pembaruan berikutnya diperkirakan terjadi ketika perubahan harga Gemini TTS Google Cloud pada 1 Januari 2027 berlaku.