Trên một GPU NVIDIA V100, vocoder HiFi-GAN V3 tạo âm thanh nhanh hơn thời gian thực 1.186,80 lần, trong khi WaveNet tự hồi quy chỉ đạt 0,003 lần thời gian thực trên cùng card (Kong và cs., HiFi-GAN 2020). Khoảng cách đó, hơn năm bậc độ lớn, giải thích vì sao tổng hợp giọng nói đã chuyển từ một thứ xa xỉ của trung tâm dữ liệu thành thứ mà một chiếc điện thoại có thể làm được. Nút thắt từ đó đã dịch chuyển: bài báo gốc của F5-TTS, một mô hình zero-shot lớn, báo cáo 0,15 giây thời gian GPU cho mỗi giây giọng nói (Chen và cs., F5-TTS 2024), và một thử nghiệm phát trực tuyến trên một A100 đo được âm thanh đầu tiên từ 102 ms đến 1.643 ms tùy hệ thống (KTH, VoXtream 2025). Về giá, giá niêm yết của các đám mây lớn dao động từ $4 đến $160 mỗi triệu ký tự, chênh lệch 40 lần cho cùng một đơn vị văn bản. Chúng tôi đã tổng hợp dữ liệu từ các bài báo được bình duyệt và arXiv của KTH, Kyutai và Apple, tài liệu hiệu năng Riva của NVIDIA, cùng các trang giá chính thức của Google Cloud, Amazon Web Services, Microsoft Azure và OpenAI; điểm chất lượng được đề cập riêng trong thống kê MOS giọng nói tổng hợp của chúng tôi.
Một lưu ý về đơn vị xuyên suốt bài viết này: hệ số thời gian thực (RTF) thông thường là thời gian tính toán chia cho độ dài âm thanh, nên RTF 0,1 nghĩa là một giây giọng nói mất 0,1 giây để tạo ra, và thấp hơn là tốt hơn. Một số nguồn đảo ngược tỷ lệ và báo cáo số giây âm thanh tạo ra trên mỗi giây tính toán (NVIDIA gọi là RTFX, và một số bài báo viết là ‘nhanh hơn thời gian thực bao nhiêu lần’), trong đó cao hơn là tốt hơn. Trong các bảng, RTF theo quy ước thấp hơn là nhanh hơn trừ khi một dòng ghi ‘lần thời gian thực’, ‘RTFX’ hoặc ‘cao hơn là nhanh hơn’.
Tóm tắt nhanh
- FastSpeech 2 giảm RTF từ 0,932 của Transformer TTS xuống 0,0195, tăng tốc 47,8x (Ren và cs., FastSpeech 2 2020).
- Matcha-TTS với 2 bước lấy mẫu đo được RTF 0,015 đã bao gồm vocoder (Mehta và cs., Matcha-TTS 2023).
- F5-TTS báo cáo RTF 0,15 ở 16 bước so với 0,92 của CosyVoice trong bảng so sánh của mình (Chen và cs., F5-TTS 2024).
- VoXtream đạt độ trễ gói đầu tiên 102 ms trên A100, trong khi CosyVoice2 ở chế độ toàn luồng mất 1.643 ms trong cùng thử nghiệm (KTH, VoXtream 2025).
- Độ trễ DSM-TTS của Kyutai tăng từ 150 ms ở kích thước lô 1 lên 403 ms ở kích thước lô 64, trong khi thông lượng đạt 137,3 lần thời gian thực (Kyutai, DSM-TTS 2025).
- Đường ống FastPitch cộng HiFi-GAN của NVIDIA Riva tăng từ độ trễ âm thanh đầu tiên 22 ms ở 1 luồng lên 323 ms ở 32 luồng (tài liệu NVIDIA Riva 2.16.0, do nhà cung cấp chạy).
- Hệ thống chạy trên thiết bị của Apple nhanh hơn thời gian thực từ 1,47 đến 3,03 lần trên hai thiết bị di động (Apple, On-device neural speech synthesis 2021).
- Mobile PresenTra của NICT đạt RTF theo lô khoảng 0,3 trên Google Pixel 5 tầm trung (Okamoto và cs., Mobile PresenTra, Interspeech 2024).
- Cắt SupertonicTTS từ 8 xuống 4 bước lấy mẫu làm tỷ lệ lỗi từ tăng từ 2,818% lên 11,43% (Supertone, SupertonicTTS 2025).
- Fast F5-TTS chạy nhanh hơn khoảng 4 lần so với đường cơ sở 32 bước trong khi tỷ lệ lỗi từ chỉ dịch từ 2,37% lên 2,45% (Zheng và cs., Interspeech 2025).
- Google Cloud niêm yết $4 mỗi 1 triệu ký tự cho giọng Standard và $160 cho giọng Studio (giá Google Cloud Text-to-Speech 2026).
- Amazon quy đổi 1 triệu ký tự thành khoảng 23 giờ 8 phút giọng nói, đưa Polly Generative về khoảng $1,30 mỗi giờ âm thanh (giá AWS Amazon Polly 2026).
1. Hệ Số Thời Gian Thực Theo Họ Mô Hình Trên GPU
Bước nhảy tốc độ lớn đầu tiên đến từ việc bỏ tự hồi quy trong mô hình âm học, phần biến văn bản thành spectrogram mel (một bức tranh thời gian-tần số của giọng nói). FastSpeech 2 đo được RTF 0,0195 so với 0,932 của Transformer TTS trên cùng máy chủ V100, tăng tốc suy luận 47,8x (Ren và cs., FastSpeech 2). Khi một mô hình dự đoán tất cả các khung song song, nó không còn phải chờ đầu ra trước đó của chính mình, từng khung một.
Các họ mô hình mới hơn không xóa bỏ mức tăng đó, nhưng đã phân tán nó. Các mô hình khuếch tán và khớp dòng như Grad-TTS và Matcha-TTS đánh đổi thêm vài lượt chạy qua mạng để có chất lượng tốt hơn, và trong bài đo của Matcha-TTS trên GPU RTX 3090, tất cả hệ thống được thử nghiệm đều giữ RTF dưới 0,08 bao gồm cả vocoding (Mehta và cs., Matcha-TTS). Con số đáng chú ý ở đó không phải là giá trị trung bình mà là độ phân tán: VITS đạt 0,074 với độ lệch chuẩn 0,083, lớn hơn chính giá trị trung bình, cho thấy tốc độ rất không đều từ câu này sang câu khác.
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| RTF của Transformer TTS, GPU V100, kích thước lô 1 (thấp hơn là nhanh hơn) | 0,932 | Ren và cs., FastSpeech 2 2020 |
| RTF của FastSpeech 2 và mức tăng tốc so với Transformer TTS, cùng thiết lập | 0,0195 (47,8x) | Ren và cs., FastSpeech 2 2020 |
| RTF của FastSpeech 2s (từ văn bản thẳng ra dạng sóng) và mức tăng tốc | 0,0180 (51,8x) | Ren và cs., FastSpeech 2 2020 |
| RTF của FastSpeech 2 trong thử nghiệm Matcha-TTS, đã bao gồm vocoder, RTX 3090 | 0,010 (độ lệch chuẩn 0,004) | Mehta và cs., Matcha-TTS 2023 |
| RTF của Matcha-TTS với 2 bước lấy mẫu so với 10 bước lấy mẫu | 0,015 so với 0,038 | Mehta và cs., Matcha-TTS 2023 |
| RTF của Grad-TTS với 10 bước lấy mẫu | 0,049 | Mehta và cs., Matcha-TTS 2023 |
| RTF của VITS trong thử nghiệm Matcha-TTS (trung bình và độ lệch chuẩn) | 0,074 (0,083) | Mehta và cs., Matcha-TTS 2023 |
| RTF của StyleTTS 2 so với RTF của VITS trong thử nghiệm StyleTTS 2 | 0,0185 so với 0,0599 | Li và cs., StyleTTS 2 2023 |
Dữ liệu mới nhất hiện có: FastSpeech 2 (2020), StyleTTS 2 (2023) và Matcha-TTS (2023), tất cả đều đã quá ba năm. Giá trị RTF từ các bài báo khác nhau không thể so sánh trực tiếp, vì GPU, kích thước lô và việc có bao gồm vocoder hay không đều khác nhau. Các tác giả Matcha-TTS cũng báo cáo rằng mô hình 2 bước của họ trở nên cạnh tranh với FastSpeech 2 trên các câu dài hơn.
2. Vocoder: Sức Tính Toán Đi Về Đâu
Vocoder chuyển spectrogram mel thành dạng sóng nghe được, và trong nhiều năm nó là nửa đắt đỏ của đường ống. WaveNet tạo ra 0,07 kHz âm thanh trên GPU V100, tức 0,003 lần thời gian thực, trong khi HiFi-GAN V1 tạo ra 3.701 kHz, hay 167,86 lần thời gian thực (Kong và cs., HiFi-GAN). Điểm mấu chốt không chỉ là các vocoder GAN nhanh; mà là vocoder đã không còn là lý do khiến một sản phẩm TTS cần đến GPU.
Mô hình tương tự giờ lặp lại bên trong các hệ thống phát trực tuyến. Bài báo SpeakStream của Apple cho thấy mô hình âm học mất khoảng 28 ms trong khi vocoder Parallel WaveGAN (PWG) thêm 152 ms; chuyển sang vocoder phát trực tuyến đã cắt giai đoạn đó xuống 13 ms (Apple, SpeakStream). Nói cách khác, riêng lựa chọn vocoder đã quyết định âm thanh đầu tiên đến sau khoảng 40 ms hay khoảng 180 ms.
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| Tốc độ WaveNet (MoL) so với WaveGlow so với MelGAN trên GPU V100, lần thời gian thực (cao hơn là nhanh hơn) | 0,003x so với 22,75x so với 645,73x | Kong và cs., HiFi-GAN 2020 |
| Tốc độ HiFi-GAN V1 so với HiFi-GAN V3 trên GPU V100, lần thời gian thực | 167,86x so với 1.186,80x | Kong và cs., HiFi-GAN 2020 |
| RTF vocoder BigVGAN so với RTF bộ tự mã hóa giọng nói của SupertonicTTS, RTX 4090 (thấp hơn là nhanh hơn) | 0,0124 so với 0,0006 | Supertone, SupertonicTTS 2025 |
| SpeakStream trên Mac mini M4 Pro, với PWG so với với vocoder phát trực tuyến VocStream: thời gian vocoder và tổng thời gian đến âm thanh đầu tiên | 152 ms so với 13 ms; 180 ms so với 40 ms | Apple, SpeakStream 2025 |
Dữ liệu mới nhất hiện có: Kong và cs., HiFi-GAN 2020, đo bằng dấu phẩy động 32-bit và không có tối ưu hóa thêm. Trong thử nghiệm Matcha-TTS, riêng vocoder chạy ở RTF 0,001, nên trong thiết lập đó nó chỉ chiếm một phần nhỏ tổng thời gian tổng hợp (Matcha-TTS).
3. Các Mô Hình Zero-Shot Lớn: Cái Giá Tốc Độ của Nhân Bản Giọng Nói Quy Mô Lớn
Các mô hình zero-shot, vốn bắt chước một giọng mới từ một đoạn gợi ý ngắn mà không cần huấn luyện lại, đã đưa tốc độ trở lại cuộc thảo luận. Bảng so sánh của F5-TTS liệt kê CosyVoice ở RTF 0,92 và FireRedTTS ở 0,84, nghĩa là mỗi giây giọng nói tốn phần lớn một giây để tính toán (Chen và cs., F5-TTS). Bản thân F5-TTS báo cáo 0,15 ở 16 bước lấy mẫu trên RTX 3090, hay nhanh hơn thời gian thực khoảng 6,7 lần (1 chia cho 0,15). Như vậy đủ nhanh cho công việc sách nói theo lô nhưng sát nút để phục vụ nhiều người dùng trực tiếp từ một card.
Các mô hình nhỏ hơn đang thu hẹp khoảng cách. SupertonicTTS, với 44M tham số, báo cáo 0,02 trên RTX 4090 và 0,05 trên RTX 3090, so với 0,31 của F5-TTS ở 32 bước trên RTX 3090 (Supertone, SupertonicTTS). Với các nhóm đang đánh giá một trình tạo giọng nói AI, riêng số lượng tham số là chỉ dẫn kém về chi phí vận hành: bảng dưới đây liệt kê DiTTo-TTS với 740M tham số nhanh hơn Voicebox với 330M, dù hai con số đó có thể không đến từ cùng một phần cứng.
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| RTF của F5-TTS, 16 so với 32 bước lấy mẫu, RTX 3090, 10 giây giọng nói (thấp hơn là nhanh hơn) | 0,15 so với 0,31 | Chen và cs., F5-TTS 2024 |
| RTF của CosyVoice (khoảng 300M tham số) so với FireRedTTS (khoảng 580M) | 0,92 so với 0,84 | Chen và cs., F5-TTS 2024 |
| RTF của Voicebox (330M) so với VALL-E 2 | 0,64 so với 0,732 | Chen và cs., F5-TTS 2024 |
| RTF của DiTTo-TTS (740M) so với NaturalSpeech 3 (500M) | 0,162 so với 0,296 | Chen và cs., F5-TTS 2024 |
| RTF của SupertonicTTS (44M) trên RTX 4090 so với RTX 3090 | 0,02 so với 0,05 | Supertone, SupertonicTTS 2025 |
| Bội số thời gian thực ở kích thước lô 1 (cao hơn là nhanh hơn): DSM-TTS so với Chatterbox so với CSM | 3,2 so với 1,8 so với 1,0 | Kyutai, DSM-TTS 2025 |
| Bội số thời gian thực ở kích thước lô 1: Dia và Orpheus | mỗi mô hình 0,7 (chậm hơn thời gian thực) | Kyutai, DSM-TTS 2025 |
Ghi chú bối cảnh: bài báo F5-TTS không nói các giá trị RTF cơ sở được đo như thế nào, và chúng có thể không dùng chung RTX 3090 của nó, vì vậy hãy coi các dòng 2 đến 4 là mang tính chỉ báo. Một bài báo sau đó đo chính F5-TTS ở 0,065 và 0,123 trên RTX 3090 (xem phần 6). Bảng của Kyutai dùng quy ước đảo ngược, trong đó giá trị dưới 1,0 nghĩa là mô hình không theo kịp tốc độ phát.
4. Thời Gian Đến Âm Thanh Đầu Tiên Khi Phát Trực Tuyến và Khả Năng Phục Vụ Đồng Thời
Với việc sử dụng trực tiếp, con số quan trọng không phải RTF mà là người nghe phải chờ bao lâu để nghe âm thanh đầu tiên. Trong một bài đo trên A100, VoXtream với torch.compile bắt đầu nói sau 102 ms, trong khi CosyVoice2 ở chế độ toàn luồng mất 1.643 ms (KTH, VoXtream). Toàn luồng nghĩa là mô hình khởi động khi văn bản vẫn đang đến; một hệ thống có thể có RTF khá nhưng độ trễ gói đầu tiên kém nếu nó chờ cả cụm từ.
Tính đồng thời là nửa còn lại. Dồn thêm người dùng lên một GPU làm tăng tổng thông lượng nhưng kéo dài thời gian chờ của mỗi người. DSM-TTS của Kyutai tăng từ 150 ms ở kích thước lô 1 lên 403 ms ở kích thước lô 64, trong khi thông lượng tăng từ 3,2 lên 137,3 lần thời gian thực (Kyutai, DSM-TTS). Các bảng Riva của chính NVIDIA cho thấy cùng một đường cong trên đường ống FastPitch cộng HiFi-GAN: độ trễ âm thanh đầu tiên tăng khoảng 15 lần từ 1 đến 32 luồng trong khi thông lượng tăng khoảng 2,9 lần (hiệu năng TTS của NVIDIA Riva). Các con số này khớp thế nào với ngân sách độ trễ đầy đủ của một trợ lý giọng nói được đề cập trong thống kê thời gian đến âm thanh đầu tiên của trợ lý giọng nói của chúng tôi.
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| Độ trễ gói đầu tiên và RTF của VoXtream với torch.compile, A100, FP16 | 102 ms (RTF 0,17) | KTH, VoXtream 2025 |
| Độ trễ gói đầu tiên và RTF của VoXtream khi không biên dịch | 171 ms (RTF 1,00) | KTH, VoXtream 2025 |
| Độ trễ gói đầu tiên của XTTS-v2, đầu ra phát trực tuyến, không có so với có DeepSpeed | 295 ms so với 196 ms | KTH, VoXtream 2025 |
| Độ trễ gói đầu tiên và RTF của CosyVoice2, chế độ toàn luồng, cùng thử nghiệm A100 | 1.643 ms (RTF 0,85) | KTH, VoXtream 2025 |
| Độ trễ DSM-TTS ở kích thước lô 1 so với 32 so với 64 | 150 ms so với 380 ms so với 403 ms | Kyutai, DSM-TTS 2025 |
| Thông lượng DSM-TTS ở kích thước lô 64, lần thời gian thực | 137,3x | Kyutai, DSM-TTS 2025 |
| Độ trễ âm thanh đầu tiên trung bình của Riva FastPitch cộng HiFi-GAN, 1 luồng so với 32 luồng | 22 ms so với 323 ms | Tài liệu NVIDIA Riva 2.16.0 (do nhà cung cấp chạy) |
| Thông lượng Riva (RTFX, cao hơn là nhanh hơn), 1 luồng so với 32 luồng | 150,8 so với 440 | Tài liệu NVIDIA Riva 2.16.0 (do nhà cung cấp chạy) |
Ghi chú bối cảnh: README của dự án CosyVoice tuyên bố độ trễ ‘thấp tới 150 ms’ cho mô hình Fun-CosyVoice 3.0 mới hơn (FunAudioLLM CosyVoice trên GitHub), một tuyên bố của dự án cho phiên bản khác với phiên bản KTH đã đo. Chúng tôi không nêu tên GPU cho các dòng Riva: đó là các bảng kết quả đầu tiên trên trang của NVIDIA, nơi danh sách GPU bắt đầu bằng A100, nhưng phần văn bản trang mà chúng tôi đọc được không gắn từng bảng với nhãn GPU của nó.
5. CPU, Thiết Bị Di Động và Phần Cứng Biên
Ngoài GPU, biên độ tốc độ thu hẹp rất nhanh. HiFi-GAN V1, vốn chạy nhanh hơn thời gian thực 167,86 lần trên V100, chỉ đạt 1,43 lần thời gian thực trên CPU Intel i7 của laptop, trong khi WaveGlow rơi xuống 0,21 lần, quá chậm để phát trực tiếp (Kong và cs., HiFi-GAN). Mô hình thắng trên máy chủ thường là lựa chọn sai cho laptop, và HiFi-GAN V3 nhỏ hơn (13,44 lần thời gian thực trên cùng CPU) cho thấy lựa chọn kiến trúc quan trọng đến mức nào ở đây.
Các mô hình nhỏ được chế tạo chuyên dụng còn đi xa hơn nhiều. EfficientSpeech, với 266k tham số và 90 MFLOPS, tạo spectrogram mel nhanh hơn thời gian thực 104,3 lần trên Raspberry Pi 4, bằng khoảng 1% kích thước và khối lượng tính toán của các mô hình gọn nhẹ như Mixer-TTS (EfficientSpeech). Công trình chạy trên thiết bị của Apple cho thấy toàn bộ đường ống chạy trên hai thiết bị di động, với bộ đệm âm thanh đầu tiên phát sau yêu cầu 158 đến 179 ms (Apple, On-device neural speech synthesis). Các xu hướng phần cứng đằng sau sự dịch chuyển này được theo dõi trong thống kê bộ xử lý giọng nói AI biên của chúng tôi.
Các phép đo mới nhất cho thấy lựa chọn thiết kế quan trọng đến mức nào trên cùng một con chip. Trên một luồng của AMD EPYC 7413, một mô hình phát trực tuyến của Samsung Research đạt RTF 0,568 và tạo token âm học đầu tiên trong 0,061 giây, so với 7,665 và 41,41 giây của VALL-E X (Lee và cs., Interspeech 2025). NICT báo cáo RTF theo lô khoảng 0,3 và độ trễ gia tăng dưới 0,5 giây trên Google Pixel 5, mà họ mô tả là một chiếc điện thoại tầm trung (Okamoto và cs., Mobile PresenTra).
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| Tốc độ HiFi-GAN V1 so với HiFi-GAN V3 so với WaveGlow trên CPU Intel i7 của laptop, lần thời gian thực | 1,43x so với 13,44x so với 0,21x | Kong và cs., HiFi-GAN 2020 |
| Tốc độ tổng hợp đầu cuối của Apple, thiết bị di động A so với thiết bị B, lần thời gian thực | 1,47x so với 3,03x | Apple, On-device neural speech synthesis 2021 |
| Độ trễ khách hàng cảm nhận được của Apple (từ yêu cầu đến khi phát bộ đệm âm thanh đầu tiên), thiết bị A so với thiết bị B | 179 ms so với 158 ms | Apple, On-device neural speech synthesis 2021 |
| Mobile PresenTra trên Google Pixel 5: RTF theo lô; độ trễ gia tăng | khoảng 0,3; dưới 0,5 giây | Okamoto và cs. (NICT), Mobile PresenTra, Interspeech 2024 |
| RTF trên một luồng CPU AMD EPYC 7413, chỉ tạo token (thấp hơn là nhanh hơn): SMAM+INR so với Small-E so với VALL-E X | 0,568 so với 2,404 so với 7,665 | Lee và cs. (Samsung Research), Interspeech 2025 |
| Thời gian đến token âm học đầu tiên trên cùng luồng CPU: SMAM+INR so với Small-E so với VALL-E X | 0,061 giây so với 14,34 giây so với 41,41 giây | Lee và cs. (Samsung Research), Interspeech 2025 |
| Tham số của EfficientSpeech và tốc độ tạo mel trên Raspberry Pi 4 | 266k tham số, 104,3x thời gian thực | EfficientSpeech 2023 |
| Nix-TTS so với mô hình giáo viên VITS của nó, RTF trên Raspberry Pi 3B (trên 1,0 là chậm hơn thời gian thực) | 1,974 so với 16,50 | Nix-TTS 2022 |
Dữ liệu mới nhất hiện có: Kong và cs. 2020, Apple 2021, Nix-TTS 2022 và EfficientSpeech 2023 đều đã quá ba năm; chúng tôi không tìm thấy số liệu mới hơn được bình duyệt cho đúng các so sánh đó. Phần tóm tắt của Apple làm tròn con số di động thành ‘nhanh hơn thời gian thực 3x’, nhưng bảng của họ cho thiết bị A là 1,47x. Con số của EfficientSpeech chỉ bao gồm việc tạo mel, không gồm vocoder, và các dòng của Samsung loại trừ xử lý codec, nên không cái nào là một đường ống giọng nói đầy đủ.
6. Sự Đánh Đổi Giữa Tốc Độ và Chất Lượng
Các mô hình khuếch tán và khớp dòng đưa tốc độ ra như một núm vặn: số bước lấy mẫu (số lần đánh giá hàm của mạng, hay NFE). SupertonicTTS giữ tỷ lệ lỗi từ trong khoảng 2,639% đến 2,818% từ 8 đến 128 bước, nhưng ở 4 bước tỷ lệ lỗi vọt lên 11,43% và điểm chất lượng NISQA tụt xuống 2,623 (Supertone, SupertonicTTS). Độ dễ hiểu không suy giảm dần; nó giữ ổn định rồi sụp đổ ở một vách đá, nên thiết lập an toàn rẻ nhất nằm ngay phía trên vách đó.
Vách đá đó có thể dịch chuyển mà không cần phần cứng mới. Trên RTX 3090, F5-TTS với 7 bước cách đều và Fast F5-TTS với 7 bước được cắt tỉa đều chạy ở RTF 0,030, nhưng chỉ riêng việc chọn vị trí các bước đã đưa tỷ lệ lỗi từ giảm từ 4,16% xuống 2,45%, gần với 2,37% của đường cơ sở 32 bước ở 0,123 (Zheng và cs., Interspeech 2025).
Cùng hình dạng đó xuất hiện ở vocoder và phát trực tuyến. HiFi-GAN V3 chạy nhanh hơn V1 khoảng 7,07 lần trên GPU V100 (26.169 kHz chia cho 3.701 kHz), với MOS giảm từ 4,36 xuống 4,05 (Kong và cs., HiFi-GAN). CosyVoice 2 gọi chế độ phát trực tuyến của mình là ‘gần như không tổn thất trong các trường hợp kiểm tra điển hình’, nhưng trên tập kiểm tra khó tỷ lệ lỗi từ tăng từ 6,83% ở chế độ ngoại tuyến lên 8,08% khi phát trực tuyến (CosyVoice 2).
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| SupertonicTTS ở 4 so với 8 bước lấy mẫu: RTF; tỷ lệ lỗi từ; điểm NISQA | 0,006 so với 0,011; 11,43% so với 2,818%; 2,623 so với 3,916 | Supertone, SupertonicTTS 2025 |
| SupertonicTTS ở 32 bước (thiết lập được chọn) so với 128 bước: RTF; điểm NISQA (bản ghi âm đạt 4,070) | 0,037 so với 0,140; 4,033 so với 4,070 | Supertone, SupertonicTTS 2025 |
| RTF của F5-TTS trên RTX 3090 ở 32 so với 16 so với 7 bước lấy mẫu | 0,123 so với 0,065 so với 0,030 | Zheng và cs., Interspeech 2025 |
| Tỷ lệ lỗi từ trên LibriSpeech-PC ở 7 bước, F5-TTS cách đều so với Fast F5-TTS (đường cơ sở 32 bước 2,37%) | 4,16% so với 2,45% | Zheng và cs., Interspeech 2025 |
| MOS của Matcha-TTS với 2 so với 10 bước lấy mẫu | 3,65 so với 3,84 | Mehta và cs., Matcha-TTS 2023 |
| Tỷ lệ lỗi từ của CosyVoice 2 trên tập kiểm tra khó, ngoại tuyến so với phát trực tuyến | 6,83% so với 8,08% | CosyVoice 2 2024 |
| RTF của StyleTTS 2 với 4 so với 128 bước khuếch tán | 0,0179 so với 0,0963 | Li và cs., StyleTTS 2 2023 |
Ghi chú bối cảnh: NISQA là một bộ dự đoán chất lượng giọng nói tự động, không xâm lấn, ước tính điểm theo kiểu người nghe mà không cần bản ghi tham chiếu; đó không phải là bài kiểm tra nghe của con người. Bảng bước của SupertonicTTS không nêu phần cứng, và con số 0,037 ở 32 bước khác với 0,02 được báo cáo ở chỗ khác trong cùng bài báo.
7. Giá Mỗi Triệu Ký Tự và Mỗi Giờ Âm Thanh
Giá niêm yết cho thấy một thị trường bị chia thành các phân khúc chứ không phải một mức giá chung. Google Cloud tính $4 mỗi 1 triệu ký tự cho giọng Standard và WaveNet nhưng $160 cho giọng Studio, chênh lệch 40 lần cho cùng một văn bản (giá Google Cloud Text-to-Speech). Amazon Polly dao động từ $4 cho Standard đến $100 cho giọng Long-Form, và ví dụ riêng của họ quy đổi 1 triệu ký tự thành khoảng 23 giờ 8 phút giọng nói (giá AWS Amazon Polly).
Dùng cách quy đổi này của AWS (23 giờ 8 phút là khoảng 23,13 giờ), Polly Generative ở mức $30 tương đương khoảng $1,30 mỗi giờ âm thanh (30 chia cho 23,13), và Standard khoảng $0,17. Các mô hình tính giá theo token cần một phép tính khác: Google nêu âm thanh Gemini TTS là 25 token mỗi giây, nên một giờ là 90.000 token âm thanh, và Gemini 2.5 Pro TTS ở mức $20 cho mỗi triệu token âm thanh tương đương $1,80 mỗi giờ đầu ra, chưa tính phí đầu vào văn bản. Các mô hình trọng số mở nén con số này xuống thêm: Artificial Analysis liệt kê Kokoro 82M trên Replicate ở mức $0,65 mỗi triệu ký tự (bảng xếp hạng chuyển văn bản thành giọng nói của Artificial Analysis). Về kinh tế GPU rộng hơn đằng sau các mức giá này, xem thống kê chi phí suy luận AI của chúng tôi.
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| Giá niêm yết Google Cloud mỗi 1 triệu ký tự: Standard và WaveNet so với Neural2 | $4 so với $16 | Giá Google Cloud Text-to-Speech 2026 |
| Giá niêm yết Google Cloud mỗi 1 triệu ký tự: Chirp 3 HD so với Instant custom voice so với Studio | $30 so với $60 so với $160 | Giá Google Cloud Text-to-Speech 2026 |
| Giá niêm yết Amazon Polly mỗi 1 triệu ký tự: Standard, Neural, Generative, Long-Form | $4, $16, $30, $100 | Giá AWS Amazon Polly 2026 |
| Giọng neural Microsoft Azure, trả theo mức dùng so với giá vượt mức trong bậc cam kết 2.000M ký tự, mỗi 1 triệu ký tự | $15 so với $7,50 | Giá Microsoft Azure Speech 2026 |
| OpenAI tts-1 (được mô tả là tối ưu cho tốc độ) so với tts-1-hd, mỗi 1 triệu ký tự | $15 so với $30 | Giá API OpenAI 2026 |
| Giá đầu ra âm thanh của Gemini 2.5 Pro TTS và chi phí tính toán mỗi giờ âm thanh (25 token mỗi giây) | $20 mỗi 1 triệu token âm thanh, khoảng $1,80 mỗi giờ | Giá Google Cloud Text-to-Speech 2026 (tính toán) |
| Amazon Polly Generative và Standard, chi phí tính toán mỗi giờ âm thanh | khoảng $1,30 và khoảng $0,17 | Giá AWS Amazon Polly 2026 (tính toán) |
| Giá API được lưu trữ của Kokoro 82M mỗi 1 triệu ký tự (Replicate) | $0,65 | Bảng xếp hạng TTS của Artificial Analysis 2026 |
Ghi chú bối cảnh: đây là giá niêm yết tính đến ngày 31 tháng 10 năm 2026, trước các khoản chiết khấu thương lượng. Các bậc cam kết của Azure bắt đầu từ $960 cho 80M ký tự, tức $12 mỗi triệu (960 chia cho 80). Các gói miễn phí khác nhau rất nhiều: Polly Standard bao gồm 5 triệu ký tự mỗi tháng, trong khi Polly Generative bao gồm 100 nghìn ký tự mỗi tháng trong 12 tháng đầu. Thẻ mô hình của chính Kokoro nói mô hình được huấn luyện với chi phí khoảng $1.000 bằng 1.000 giờ GPU A100 80GB (thẻ mô hình Kokoro-82M), cho thấy một giọng nói chi phí thấp giờ đây cần rất ít sức tính toán huấn luyện.
Tổng kết: Hệ Số Thời Gian Thực và Chi Phí Suy Luận của Chuyển Văn Bản Thành Giọng Nói qua các Con số
| Chỉ số | Giá trị | Nguồn |
|---|---|---|
| Tốc độ HiFi-GAN V3 so với WaveNet trên GPU V100, lần thời gian thực | 1.186,80x so với 0,003x | Kong và cs., HiFi-GAN 2020 |
| RTF của FastSpeech 2 so với Transformer TTS | 0,0195 so với 0,932 | Ren và cs., FastSpeech 2 2020 |
| RTF của Matcha-TTS với 2 bước lấy mẫu, đã bao gồm vocoder | 0,015 | Mehta và cs., Matcha-TTS 2023 |
| RTF của F5-TTS ở 16 bước so với RTF của CosyVoice | 0,15 so với 0,92 | Chen và cs., F5-TTS 2024 |
| Độ trễ gói đầu tiên của VoXtream so với CosyVoice2, cùng thử nghiệm A100 | 102 ms so với 1.643 ms | KTH, VoXtream 2025 |
| Độ trễ DSM-TTS, kích thước lô 1 so với 64 | 150 ms so với 403 ms | Kyutai, DSM-TTS 2025 |
| Độ trễ âm thanh đầu tiên của Riva, 1 so với 32 luồng | 22 ms so với 323 ms | Tài liệu NVIDIA Riva 2.16.0 (do nhà cung cấp chạy) |
| Âm thanh đầu tiên của SpeakStream với PWG so với vocoder phát trực tuyến | 180 ms so với 40 ms | Apple, SpeakStream 2025 |
| Tốc độ tổng hợp chạy trên thiết bị của Apple, hai thiết bị di động | 1,47x và 3,03x thời gian thực | Apple, On-device neural speech synthesis 2021 |
| EfficientSpeech tạo mel trên Raspberry Pi 4 | 104,3x thời gian thực | EfficientSpeech 2023 |
| RTF theo lô của Mobile PresenTra trên Google Pixel 5 | khoảng 0,3 | Okamoto và cs. (NICT), Mobile PresenTra, Interspeech 2024 |
| Tỷ lệ lỗi từ của SupertonicTTS ở 4 so với 8 bước lấy mẫu | 11,43% so với 2,818% | Supertone, SupertonicTTS 2025 |
| Tỷ lệ lỗi từ của F5-TTS ở 7 bước, cách đều so với lịch cắt tỉa | 4,16% so với 2,45% | Zheng và cs., Interspeech 2025 |
| Tỷ lệ lỗi từ tập khó của CosyVoice 2, ngoại tuyến so với phát trực tuyến | 6,83% so với 8,08% | CosyVoice 2 2024 |
| Giọng Standard so với Studio của Google Cloud, mỗi 1 triệu ký tự | $4 so với $160 | Giá Google Cloud Text-to-Speech 2026 |
| Giọng Long-Form của Amazon Polly, mỗi 1 triệu ký tự | $100 | Giá AWS Amazon Polly 2026 |
| Giọng nói tạo ra từ 1 triệu ký tự, ví dụ về giá của Amazon | khoảng 23 giờ 8 phút | Giá AWS Amazon Polly 2026 |
| Giọng neural Azure, trả theo mức dùng mỗi 1 triệu ký tự | $15 | Giá Microsoft Azure Speech 2026 |
| Giá lưu trữ của Kokoro 82M mỗi 1 triệu ký tự | $0,65 | Bảng xếp hạng TTS của Artificial Analysis 2026 |
Phương pháp luận và Nguồn
- Kong, Kim và Bae: HiFi-GAN (2020), Bảng 1 về tốc độ, MOS và số lượng tham số trên GPU V100 và CPU laptop.
- Ren và cs.: FastSpeech 2 (2020), Bảng 2 về RTF suy luận trên máy chủ V100 ở kích thước lô 1.
- Mehta và cs.: Matcha-TTS (2023), RTF đã bao gồm vocoding trên GPU RTX 3090.
- Li và cs.: StyleTTS 2 (2023), RTF tổng thể và theo số bước khuếch tán.
- Chen và cs.: F5-TTS (2024), RTF trên RTX 3090 cho 10 giây giọng nói, kèm bảng so sánh đường cơ sở.
- Supertone: SupertonicTTS (2025), RTF trên RTX 4090 và RTX 3090, cùng thử nghiệm loại trừ theo bước lấy mẫu.
- KTH Royal Institute of Technology: VoXtream (2025), độ trễ gói đầu tiên và RTF ở FP16 trên A100.
- Kyutai: Streaming Sequence-to-Sequence Learning with Delayed Streams Modeling (2025), độ trễ, RTF và thông lượng của DSM-TTS theo kích thước lô.
- Apple: SpeakStream (2025), độ trễ trên Mac mini M4 Pro với MLX; On-device neural speech synthesis (2021), các phép đo trên thiết bị di động.
- FunAudioLLM: CosyVoice 2 (2024), chất lượng phát trực tuyến so với ngoại tuyến; README GitHub của CosyVoice (tuyên bố của dự án, 2026).
- EfficientSpeech (2023) và Nix-TTS (2022), các mô hình có dung lượng nhỏ trên CPU và Raspberry Pi.
- Các bài báo Interspeech: Okamoto, Ohtani và Kawai (NICT), Mobile PresenTra (2024), RTF và độ trễ trên điện thoại thông minh; Lee và cs. (Samsung Research), Efficient Streaming TTS Acoustic Model with Depthwise RVQ Decoding Strategies in a Mamba Framework (2025), RTF và độ trễ CPU đơn luồng; Zheng và cs., Accelerating Flow-Matching-Based Text-to-Speech via Empirically Pruned Step Sampling (2025), tốc độ và tỷ lệ lỗi của F5-TTS theo số bước.
- NVIDIA: hiệu năng TTS của Riva 2.16.0, các bảng độ trễ và RTFX do nhà cung cấp chạy.
- Các trang giá, đọc vào ngày 31 tháng 10 năm 2026: Google Cloud Text-to-Speech, Amazon Polly, Microsoft Azure Speech, API OpenAI và trang mô hình OpenAI tts-1.
- Bảng xếp hạng chuyển văn bản thành giọng nói của Artificial Analysis (2026) và thẻ mô hình Kokoro-82M (Hugging Face), về giá mô hình trọng số mở và chi phí huấn luyện.
- Lưu ý về dữ liệu: các con số RTF không thể so sánh giữa các bài báo trừ khi phần cứng, kích thước lô, độ chính xác và việc có bao gồm vocoder trùng khớp; ngay trong một bài báo, SupertonicTTS báo cáo 0,037 và 0,02 cho thứ trông như cùng một thiết lập. Bài báo F5-TTS không nêu các RTF đường cơ sở được đo như thế nào, và tốc độ của chính F5-TTS mâu thuẫn giữa các nguồn trên cùng một mẫu GPU: bài báo gốc đưa ra 0,15 ở 16 bước và 0,31 ở 32 bước trên RTX 3090, trong khi Zheng và cs. đưa ra 0,065 và 0,123 trên RTX 3090, mà không giải thích chênh lệch trong các trang chúng tôi đọc. Bảng 6 của Kyutai không nêu tên GPU, và bài báo in độ trễ khoảng 800 ms cho F5-TTS ở 16 bước và khoảng 400 ms ở 32 bước, ngược với điều thường xảy ra khi có nhiều bước hơn, nên chúng tôi không dùng hai giá trị đó. Phép đo của VoXtream và con số trong README của CosyVoice bao gồm các phiên bản CosyVoice khác nhau nên không thể so sánh trực tiếp. Hai cách quy đổi từ ký tự sang âm thanh mâu thuẫn nhau: ví dụ của Amazon ngụ ý khoảng 720 ký tự mỗi phút (1.000.000 ký tự chia cho 1.388 phút), trong khi thẻ Kokoro dùng khoảng 1.000, nên chi phí mỗi giờ dựa trên tỷ lệ của Kokoro sẽ cao hơn khoảng 39% so với dựa trên tỷ lệ của Amazon (1.000 chia cho 720 xấp xỉ 1,39). Google Cloud gắn nhãn các mô hình Gemini 3.8 TTS là ‘Preview’, với giá dự kiến thay đổi vào ngày 1 tháng 1 năm 2027. Quy tắc MLPerf Inference của MLCommons liệt kê Whisper cho chuyển giọng nói thành văn bản nhưng không có khối lượng công việc chuyển văn bản thành giọng nói, nên tốc độ TTS không có chuẩn đo trung lập của ngành ở đó; một số bài báo phần cứng ở đây đã quá ba năm và được đánh dấu là dữ liệu mới nhất hiện có.
Cập nhật lần cuối: ngày 31 tháng 10 năm 2026. Chúng tôi cập nhật bài tổng hợp này hàng quý, và lần làm mới tiếp theo dự kiến diễn ra khi thay đổi giá Gemini TTS ngày 1 tháng 1 năm 2027 của Google Cloud có hiệu lực.