Auf einer einzelnen NVIDIA-V100-GPU erzeugte der HiFi-GAN-V3-Vocoder Audio 1.186,80-mal schneller als Echtzeit, während ein autoregressives WaveNet auf derselben Karte nur das 0,003-Fache von Echtzeit schaffte (Kong et al., HiFi-GAN 2020). Dieser Abstand von mehr als fünf Größenordnungen ist der Grund, warum Sprachsynthese vom Rechenzentrums-Luxus zu etwas wurde, das ein Smartphone leisten kann. Der Engpass hat sich seitdem verschoben: Das ursprüngliche F5-TTS-Paper, ein großes Zero-Shot-Modell, meldete 0,15 GPU-Sekunden pro Sekunde Sprache (Chen et al., F5-TTS 2024), und ein Streaming-Test auf einer einzelnen A100 maß das erste Audio je nach System zwischen 102 ms und 1.643 ms (KTH, VoXtream 2025). Auf der Preisseite reichen die Listenpreise der großen Clouds von $4 bis $160 pro Million Zeichen, ein 40-facher Unterschied für dieselbe Texteinheit. Wir haben Daten aus begutachteten Fachartikeln und arXiv-Papern von KTH, Kyutai und Apple, aus NVIDIAs Riva-Leistungsdokumentation sowie von den offiziellen Preisseiten von Google Cloud, Amazon Web Services, Microsoft Azure und OpenAI zusammengetragen; Qualitätswerte behandeln wir gesondert in unseren Statistiken zum MOS synthetischer Sprache.
Ein Hinweis zur Einheit, die sich durch diesen Artikel zieht: Der Echtzeitfaktor (RTF) bedeutet normalerweise Rechenzeit geteilt durch Audiodauer, ein RTF von 0,1 heißt also, dass eine Sekunde Sprache 0,1 Sekunden zur Erzeugung braucht, und niedriger ist besser. Mehrere Quellen kehren das Verhältnis um und geben an, wie viele Audiosekunden pro Rechensekunde entstehen (NVIDIA nennt das RTFX, und manche Paper schreiben es als “x-mal schneller als Echtzeit”), wobei höher besser ist. In den Tabellen steht RTF für die Konvention “niedriger ist schneller”, es sei denn, eine Zeile sagt “Vielfaches von Echtzeit”, “RTFX” oder “höher ist schneller”.
TL;DR
- FastSpeech 2 senkte den RTF von 0,932 bei Transformer TTS auf 0,0195, eine Beschleunigung um das 47,8-Fache (Ren et al., FastSpeech 2 2020).
- Matcha-TTS mit 2 Sampling-Schritten erreichte einen RTF von 0,015 einschließlich Vocoder (Mehta et al., Matcha-TTS 2023).
- F5-TTS meldete einen RTF von 0,15 bei 16 Schritten gegenüber 0,92 bei CosyVoice in seiner Vergleichstabelle (Chen et al., F5-TTS 2024).
- VoXtream erreichte auf einer A100 eine Latenz bis zum ersten Paket von 102 ms, während CosyVoice2 im Full-Stream-Modus im selben Test 1.643 ms brauchte (KTH, VoXtream 2025).
- Die Latenz von Kyutais DSM-TTS stieg von 150 ms bei Batchgröße 1 auf 403 ms bei Batchgröße 64, während der Durchsatz das 137,3-Fache von Echtzeit erreichte (Kyutai, DSM-TTS 2025).
- NVIDIA Rivas Pipeline aus FastPitch und HiFi-GAN ging von 22 ms Latenz bis zum ersten Audio bei 1 Stream auf 323 ms bei 32 Streams (NVIDIA-Riva-2.16.0-Dokumentation, vom Anbieter durchgeführt).
- Apples On-Device-System lief auf zwei Mobilgeräten 1,47- bis 3,03-mal schneller als Echtzeit (Apple, On-device neural speech synthesis 2021).
- Das Mobile PresenTra des NICT erreichte auf einem Google Pixel 5 der mittleren Preisklasse einen Batch-RTF von etwa 0,3 (Okamoto et al., Mobile PresenTra, Interspeech 2024).
- Die Reduzierung von SupertonicTTS von 8 auf 4 Sampling-Schritte erhöhte die Wortfehlerrate von 2,818% auf 11,43% (Supertone, SupertonicTTS 2025).
- Fast F5-TTS lief etwa 4-mal schneller als die 32-Schritte-Baseline, während sich die Wortfehlerrate von 2,37% auf 2,45% bewegte (Zheng et al., Interspeech 2025).
- Google Cloud listet $4 pro 1 Mio. Zeichen für Standard-Stimmen und $160 für Studio-Stimmen (Google-Cloud-Text-to-Speech-Preise 2026).
- Amazon setzt 1 Mio. Zeichen mit etwa 23 Stunden 8 Minuten Sprache gleich, was Polly Generative auf etwa $1,30 pro Stunde Audio bringt (AWS-Amazon-Polly-Preise 2026).
1. Echtzeitfaktor nach Modellfamilie auf der GPU
Der erste große Geschwindigkeitssprung kam durch den Verzicht auf Autoregression im akustischen Modell, dem Teil, der Text in ein Mel-Spektrogramm umwandelt (ein Zeit-Frequenz-Bild der Sprache). FastSpeech 2 erreichte auf demselben V100-Server einen RTF von 0,0195 gegenüber 0,932 bei Transformer TTS, eine Inferenzbeschleunigung um das 47,8-Fache (Ren et al., FastSpeech 2). Sobald ein Modell alle Frames parallel vorhersagt, muss es nicht mehr Frame für Frame auf seine eigene vorherige Ausgabe warten.
Neuere Familien haben diesen Gewinn nicht rückgängig gemacht, ihn aber gestreut. Diffusions- und Flow-Matching-Modelle wie Grad-TTS und Matcha-TTS tauschen einige zusätzliche Netzwerkdurchläufe gegen bessere Qualität, und im Matcha-TTS-Benchmark auf RTX-3090-GPUs blieben alle getesteten Systeme einschließlich Vocoding unter einem RTF von 0,08 (Mehta et al., Matcha-TTS). Die interessante Zahl ist dort nicht der Mittelwert, sondern die Streuung: VITS erreichte 0,074 bei einer Standardabweichung von 0,083, größer als der Mittelwert selbst, was auf sehr ungleichmäßige Geschwindigkeit von Satz zu Satz hindeutet.
| Metrik | Wert | Quelle |
|---|---|---|
| RTF von Transformer TTS, V100-GPU, Batchgröße 1 (niedriger ist schneller) | 0,932 | Ren et al., FastSpeech 2 2020 |
| RTF von FastSpeech 2 und Beschleunigung gegenüber Transformer TTS, gleiches Setup | 0,0195 (47,8x) | Ren et al., FastSpeech 2 2020 |
| RTF und Beschleunigung von FastSpeech 2s (Text direkt zur Wellenform) | 0,0180 (51,8x) | Ren et al., FastSpeech 2 2020 |
| RTF von FastSpeech 2 im Matcha-TTS-Test, einschließlich Vocoder, RTX 3090 | 0,010 (Standardabweichung 0,004) | Mehta et al., Matcha-TTS 2023 |
| RTF von Matcha-TTS mit 2 Sampling-Schritten vs. 10 Sampling-Schritten | 0,015 vs. 0,038 | Mehta et al., Matcha-TTS 2023 |
| RTF von Grad-TTS mit 10 Sampling-Schritten | 0,049 | Mehta et al., Matcha-TTS 2023 |
| RTF von VITS im Matcha-TTS-Test (Mittelwert und Standardabweichung) | 0,074 (0,083) | Mehta et al., Matcha-TTS 2023 |
| RTF von StyleTTS 2 vs. RTF von VITS im StyleTTS-2-Test | 0,0185 vs. 0,0599 | Li et al., StyleTTS 2 2023 |
Neueste verfügbare Daten: FastSpeech 2 (2020), StyleTTS 2 (2023) und Matcha-TTS (2023), alle älter als drei Jahre. RTF-Werte aus verschiedenen Papern sind nicht direkt vergleichbar, weil sich GPUs, Batchgrößen und die Frage, ob der Vocoder enthalten ist, unterscheiden. Die Autoren von Matcha-TTS berichten außerdem, dass ihr 2-Schritte-Modell bei längeren Äußerungen mit FastSpeech 2 konkurrenzfähig wird.
2. Vocoder: Wohin die Rechenleistung fließt
Ein Vocoder wandelt das Mel-Spektrogramm in eine hörbare Wellenform um und war jahrelang die teure Hälfte der Pipeline. WaveNet erzeugte auf einer V100-GPU 0,07 kHz Audio, das entspricht dem 0,003-Fachen von Echtzeit, während HiFi-GAN V1 3.701 kHz erzeugte, also das 167,86-Fache von Echtzeit (Kong et al., HiFi-GAN). Der Punkt ist nicht nur, dass GAN-Vocoder schnell sind; er ist, dass der Vocoder aufhörte, der Grund zu sein, warum ein TTS-Produkt überhaupt eine GPU brauchte.
Dasselbe Muster wiederholt sich jetzt innerhalb von Streaming-Systemen. Apples SpeakStream-Paper zeigt das akustische Modell mit etwa 28 ms, während ein Parallel-WaveGAN-Vocoder (PWG) 152 ms hinzufügte; der Austausch gegen einen Streaming-Vocoder senkte diese Stufe auf 13 ms (Apple, SpeakStream). Mit anderen Worten: Allein die Wahl des Vocoders entschied, ob das erste Audio nach etwa 40 ms oder nach etwa 180 ms eintraf.
| Metrik | Wert | Quelle |
|---|---|---|
| Geschwindigkeit von WaveNet (MoL) vs. WaveGlow vs. MelGAN auf einer V100-GPU, Vielfaches von Echtzeit (höher ist schneller) | 0,003x vs. 22,75x vs. 645,73x | Kong et al., HiFi-GAN 2020 |
| Geschwindigkeit von HiFi-GAN V1 vs. HiFi-GAN V3 auf einer V100-GPU, Vielfaches von Echtzeit | 167,86x vs. 1.186,80x | Kong et al., HiFi-GAN 2020 |
| RTF des BigVGAN-Vocoders vs. RTF des Sprach-Autoencoders von SupertonicTTS, RTX 4090 (niedriger ist schneller) | 0,0124 vs. 0,0006 | Supertone, SupertonicTTS 2025 |
| SpeakStream auf einem M4-Pro-Mac-mini, mit PWG vs. mit dem Streaming-Vocoder VocStream: Vocoder-Zeit und Gesamtzeit bis zum ersten Audio | 152 ms vs. 13 ms; 180 ms vs. 40 ms | Apple, SpeakStream 2025 |
Neueste verfügbare Daten: Kong et al., HiFi-GAN 2020, gemessen in 32-Bit-Gleitkomma ohne weitere Optimierung. Im Matcha-TTS-Test lief der Vocoder allein mit einem RTF von 0,001, war in diesem Setup also nur ein kleiner Bruchteil der gesamten Synthesezeit (Matcha-TTS).
3. Große Zero-Shot-Modelle: Der Geschwindigkeitspreis von Stimmklonen im großen Maßstab
Zero-Shot-Modelle, die eine neue Stimme aus einem kurzen Prompt ohne erneutes Training nachahmen, brachten die Geschwindigkeit zurück ins Gespräch. Die Vergleichstabelle von F5-TTS listet CosyVoice mit einem RTF von 0,92 und FireRedTTS mit 0,84, das heißt, jede Sekunde Sprache brauchte den Großteil einer Sekunde Rechenzeit (Chen et al., F5-TTS). F5-TTS selbst meldete 0,15 bei 16 Sampling-Schritten auf einer RTX 3090, also etwa 6,7-fach schneller als Echtzeit (1 geteilt durch 0,15). Das ist schnell genug für Hörbuch-Stapelverarbeitung, aber knapp, um viele Live-Nutzer von einer Karte aus zu bedienen.
Kleinere Modelle schließen die Lücke. SupertonicTTS mit 44M Parametern meldete 0,02 auf einer RTX 4090 und 0,05 auf einer RTX 3090, gegenüber 0,31 für F5-TTS bei 32 Schritten auf der RTX 3090 (Supertone, SupertonicTTS). Für Teams, die einen KI-Stimmengenerator bewerten, ist die Parameterzahl allein ein schlechter Maßstab für die Betriebskosten: Die Tabelle unten führt DiTTo-TTS mit 740M Parametern als schneller als Voicebox mit 330M, obwohl diese beiden Zahlen möglicherweise nicht von derselben Hardware stammen.
| Metrik | Wert | Quelle |
|---|---|---|
| RTF von F5-TTS, 16 vs. 32 Sampling-Schritte, RTX 3090, 10 s Sprache (niedriger ist schneller) | 0,15 vs. 0,31 | Chen et al., F5-TTS 2024 |
| RTF von CosyVoice (etwa 300M Parameter) vs. FireRedTTS (etwa 580M) | 0,92 vs. 0,84 | Chen et al., F5-TTS 2024 |
| RTF von Voicebox (330M) vs. VALL-E 2 | 0,64 vs. 0,732 | Chen et al., F5-TTS 2024 |
| RTF von DiTTo-TTS (740M) vs. NaturalSpeech 3 (500M) | 0,162 vs. 0,296 | Chen et al., F5-TTS 2024 |
| RTF von SupertonicTTS (44M) auf RTX 4090 vs. RTX 3090 | 0,02 vs. 0,05 | Supertone, SupertonicTTS 2025 |
| Echtzeit-Vielfaches bei Batchgröße 1 (höher ist schneller): DSM-TTS vs. Chatterbox vs. CSM | 3,2 vs. 1,8 vs. 1,0 | Kyutai, DSM-TTS 2025 |
| Echtzeit-Vielfaches bei Batchgröße 1: Dia und Orpheus | je 0,7 (langsamer als Echtzeit) | Kyutai, DSM-TTS 2025 |
Kontexthinweis: Das F5-TTS-Paper sagt nicht, wie die RTF-Werte der Baselines gemessen wurden, und sie teilen sich möglicherweise nicht seine RTX 3090, daher sind die Zeilen 2 bis 4 als Richtwerte zu verstehen. Ein späteres Paper maß F5-TTS selbst mit 0,065 und 0,123 auf einer RTX 3090 (siehe Abschnitt 6). Kyutais Tabelle verwendet die umgekehrte Konvention, bei der ein Wert unter 1,0 bedeutet, dass das Modell mit der Wiedergabe nicht Schritt halten kann.
4. Streaming-Zeit bis zum ersten Audio und Parallelität im Betrieb
Für die Live-Nutzung zählt nicht der RTF, sondern wie lange der Zuhörer auf den ersten Ton wartet. In einem A100-Benchmark begann VoXtream mit torch.compile nach 102 ms zu sprechen, während CosyVoice2 im Full-Stream-Modus 1.643 ms brauchte (KTH, VoXtream). Full-Stream heißt, dass das Modell startet, während der Text noch eintrifft; ein System kann einen guten RTF und trotzdem eine schlechte Latenz bis zum ersten Paket haben, wenn es auf ganze Phrasen wartet.
Parallelität ist die andere Hälfte. Mehr Nutzer in Batches auf eine GPU zu packen erhöht den Gesamtdurchsatz, dehnt aber die Wartezeit jedes Nutzers. Kyutais DSM-TTS ging von 150 ms bei Batchgröße 1 auf 403 ms bei Batchgröße 64, während der Durchsatz von 3,2 auf das 137,3-Fache von Echtzeit stieg (Kyutai, DSM-TTS). NVIDIAs eigene Riva-Tabellen zeigen dieselbe Kurve bei einer Pipeline aus FastPitch und HiFi-GAN: Die Latenz bis zum ersten Audio wuchs von 1 auf 32 Streams etwa um das 15-Fache, während der Durchsatz etwa um das 2,9-Fache wuchs (NVIDIA Riva TTS performance). Wie sich diese Zahlen in ein vollständiges Latenzbudget eines Sprachagenten einfügen, behandeln unsere Statistiken zur Zeit bis zum ersten Audio bei Sprachagenten.
| Metrik | Wert | Quelle |
|---|---|---|
| Latenz bis zum ersten Paket und RTF von VoXtream mit torch.compile, A100, FP16 | 102 ms (RTF 0,17) | KTH, VoXtream 2025 |
| Latenz bis zum ersten Paket und RTF von VoXtream ohne Kompilierung | 171 ms (RTF 1,00) | KTH, VoXtream 2025 |
| Latenz bis zum ersten Paket von XTTS-v2, Ausgabe-Streaming, ohne vs. mit DeepSpeed | 295 ms vs. 196 ms | KTH, VoXtream 2025 |
| Latenz bis zum ersten Paket und RTF von CosyVoice2, Full-Stream-Modus, gleicher A100-Test | 1.643 ms (RTF 0,85) | KTH, VoXtream 2025 |
| Latenz von DSM-TTS bei Batchgröße 1 vs. 32 vs. 64 | 150 ms vs. 380 ms vs. 403 ms | Kyutai, DSM-TTS 2025 |
| Durchsatz von DSM-TTS bei Batchgröße 64, Vielfaches von Echtzeit | 137,3x | Kyutai, DSM-TTS 2025 |
| Durchschnittliche Latenz bis zum ersten Audio bei Riva FastPitch plus HiFi-GAN, 1 Stream vs. 32 Streams | 22 ms vs. 323 ms | NVIDIA-Riva-2.16.0-Dokumentation (vom Anbieter durchgeführt) |
| Durchsatz von Riva (RTFX, höher ist schneller), 1 Stream vs. 32 Streams | 150,8 vs. 440 | NVIDIA-Riva-2.16.0-Dokumentation (vom Anbieter durchgeführt) |
Kontexthinweis: Das README des CosyVoice-Projekts behauptet für sein neueres Modell Fun-CosyVoice 3.0 eine Latenz “von nur 150 ms” (FunAudioLLM CosyVoice on GitHub), eine Projektbehauptung für eine andere Version als die, die KTH gemessen hat. Für die Riva-Zeilen nennen wir keine GPU: Sie sind die erste Ergebnistabelle auf NVIDIAs Seite, deren GPU-Liste mit der A100 beginnt, aber der von uns lesbare Seitentext ordnete nicht jede Tabelle ihrem GPU-Label zu.
5. CPU-, Mobil- und Edge-Hardware
Abseits der GPU schrumpfen die Geschwindigkeitsreserven schnell. HiFi-GAN V1, das auf einer V100 167,86-mal schneller als Echtzeit lief, schaffte auf einer Laptop-CPU Intel i7 nur das 1,43-Fache von Echtzeit, während WaveGlow auf das 0,21-Fache abfiel, zu langsam für die Live-Wiedergabe (Kong et al., HiFi-GAN). Das Modell, das auf einem Server gewinnt, ist für einen Laptop oft das falsche, und das kleinere HiFi-GAN V3 (das 13,44-Fache von Echtzeit auf derselben CPU) zeigt, wie viel Architekturentscheidungen hier ausmachen.
Speziell gebaute kleine Modelle gehen deutlich weiter. EfficientSpeech mit 266k Parametern und 90 MFLOPS erzeugte auf einem Raspberry Pi 4 Mel-Spektrogramme 104,3-mal schneller als Echtzeit, bei etwa 1% der Größe und des Rechenaufwands kompakter Modelle wie Mixer-TTS (EfficientSpeech). Apples On-Device-Arbeit zeigte die vollständige Pipeline auf zwei Mobilgeräten, wobei der erste Audiopuffer 158 bis 179 ms nach der Anfrage abgespielt wurde (Apple, On-device neural speech synthesis). Die Hardwaretrends hinter dieser Verschiebung verfolgen unsere Statistiken zu Edge-KI-Sprachprozessoren.
Die neuesten Messungen zeigen, wie viel die Designentscheidung auf demselben Chip ausmacht. Auf einem Thread eines AMD EPYC 7413 erreichte ein Streaming-Modell von Samsung Research einen RTF von 0,568 und erzeugte sein erstes akustisches Token in 0,061 s, gegenüber 7,665 und 41,41 s bei VALL-E X (Lee et al., Interspeech 2025). Das NICT meldete auf einem Google Pixel 5, das es als Mittelklasse-Smartphone beschreibt, einen Batch-RTF von etwa 0,3 und eine inkrementelle Latenz von weniger als 0,5 s (Okamoto et al., Mobile PresenTra).
| Metrik | Wert | Quelle |
|---|---|---|
| Geschwindigkeit von HiFi-GAN V1 vs. HiFi-GAN V3 vs. WaveGlow auf einer Laptop-CPU Intel i7, Vielfaches von Echtzeit | 1,43x vs. 13,44x vs. 0,21x | Kong et al., HiFi-GAN 2020 |
| Ende-zu-Ende-Synthesegeschwindigkeit bei Apple, Mobilgerät A vs. Gerät B, Vielfaches von Echtzeit | 1,47x vs. 3,03x | Apple, On-device neural speech synthesis 2021 |
| Von Kunden wahrgenommene Latenz bei Apple (Anfrage bis zum Abspielen des ersten Audiopuffers), Gerät A vs. Gerät B | 179 ms vs. 158 ms | Apple, On-device neural speech synthesis 2021 |
| Mobile PresenTra auf einem Google Pixel 5: Batch-RTF; inkrementelle Latenz | etwa 0,3; weniger als 0,5 s | Okamoto et al. (NICT), Mobile PresenTra, Interspeech 2024 |
| RTF auf einem Thread einer AMD-EPYC-7413-CPU, nur Token-Erzeugung (niedriger ist schneller): SMAM+INR vs. Small-E vs. VALL-E X | 0,568 vs. 2,404 vs. 7,665 | Lee et al. (Samsung Research), Interspeech 2025 |
| Zeit bis zum ersten akustischen Token auf demselben CPU-Thread: SMAM+INR vs. Small-E vs. VALL-E X | 0,061 s vs. 14,34 s vs. 41,41 s | Lee et al. (Samsung Research), Interspeech 2025 |
| Parameter von EfficientSpeech und Geschwindigkeit der Mel-Erzeugung auf einem Raspberry Pi 4 | 266k Parameter, 104,3x Echtzeit | EfficientSpeech 2023 |
| Nix-TTS vs. sein Lehrermodell VITS, RTF auf einem Raspberry Pi 3B (über 1,0 ist langsamer als Echtzeit) | 1,974 vs. 16,50 | Nix-TTS 2022 |
Neueste verfügbare Daten: Kong et al. 2020, Apple 2021, Nix-TTS 2022 und EfficientSpeech 2023 sind älter als drei Jahre; für genau diese Vergleiche haben wir keine neueren begutachteten Zahlen gefunden. Apples Abstract rundet die Mobilzahl auf “3x schneller als Echtzeit”, aber die Tabelle zeigt Gerät A mit 1,47x. Die EfficientSpeech-Zahl umfasst nur die Mel-Erzeugung, nicht den Vocoder, und die Samsung-Zeilen schließen die Codec-Verarbeitung aus, daher ist keine von beiden eine vollständige Sprach-Pipeline.
6. Der Kompromiss zwischen Geschwindigkeit und Qualität
Diffusions- und Flow-Matching-Modelle machen Geschwindigkeit zu einem Regler: die Anzahl der Sampling-Schritte (Netzwerkfunktionsauswertungen, kurz NFE). SupertonicTTS hielt seine Wortfehlerrate von 8 bis 128 Schritten zwischen 2,639% und 2,818%, aber bei 4 Schritten sprang die Fehlerrate auf 11,43% und der NISQA-Qualitätswert fiel auf 2,623 (Supertone, SupertonicTTS). Die Verständlichkeit lässt nicht allmählich nach; sie bleibt stabil und bricht dann an einer Klippe ein, daher liegt die günstigste sichere Einstellung knapp oberhalb davon.
Diese Klippe lässt sich ohne neue Hardware verschieben. Auf einer RTX 3090 liefen F5-TTS mit 7 gleichmäßig verteilten Schritten und Fast F5-TTS mit 7 beschnittenen Schritten beide mit einem RTF von 0,030, aber allein die Wahl, wo die Schritte liegen, senkte die Wortfehlerrate von 4,16% auf 2,45%, nahe an den 2,37% der 32-Schritte-Baseline mit 0,123 (Zheng et al., Interspeech 2025).
Dasselbe Muster zeigt sich bei Vocodern und beim Streaming. HiFi-GAN V3 lief auf einer V100-GPU etwa 7,07-mal schneller als V1 (26.169 kHz geteilt durch 3.701 kHz), bei einem MOS-Rückgang von 4,36 auf 4,05 (Kong et al., HiFi-GAN). CosyVoice 2 nannte seinen Streaming-Modus “in typischen Testfällen nahezu verlustfrei”, doch auf seinem schwierigen Testsatz stieg die Wortfehlerrate von 6,83% offline auf 8,08% im Streaming (CosyVoice 2).
| Metrik | Wert | Quelle |
|---|---|---|
| SupertonicTTS mit 4 vs. 8 Sampling-Schritten: RTF; Wortfehlerrate; NISQA-Wert | 0,006 vs. 0,011; 11,43% vs. 2,818%; 2,623 vs. 3,916 | Supertone, SupertonicTTS 2025 |
| SupertonicTTS mit 32 Schritten (gewählte Einstellung) vs. 128 Schritten: RTF; NISQA-Wert (Aufnahmen erreichen 4,070) | 0,037 vs. 0,140; 4,033 vs. 4,070 | Supertone, SupertonicTTS 2025 |
| RTF von F5-TTS auf einer RTX 3090 bei 32 vs. 16 vs. 7 Sampling-Schritten | 0,123 vs. 0,065 vs. 0,030 | Zheng et al., Interspeech 2025 |
| Wortfehlerrate auf LibriSpeech-PC bei 7 Schritten, gleichmäßig verteiltes F5-TTS vs. Fast F5-TTS (32-Schritte-Baseline 2,37%) | 4,16% vs. 2,45% | Zheng et al., Interspeech 2025 |
| MOS von Matcha-TTS mit 2 vs. 10 Sampling-Schritten | 3,65 vs. 3,84 | Mehta et al., Matcha-TTS 2023 |
| Wortfehlerrate von CosyVoice 2 auf dem schwierigen Testsatz, offline vs. Streaming | 6,83% vs. 8,08% | CosyVoice 2 2024 |
| RTF von StyleTTS 2 mit 4 vs. 128 Diffusionsschritten | 0,0179 vs. 0,0963 | Li et al., StyleTTS 2 2023 |
Kontexthinweis: NISQA ist ein automatischer, nicht intrusiver Sprachqualitätsprädiktor, der ohne Referenzaufnahme einen Wert im Stil eines Hörers schätzt; es ist kein Hörtest mit Menschen. Die Schritt-Tabelle von SupertonicTTS nennt ihre Hardware nicht, und ihr Wert 0,037 bei 32 Schritten weicht von den 0,02 ab, die an anderer Stelle im selben Paper berichtet werden.
7. Preis pro Million Zeichen und pro Stunde Audio
Listenpreise zeigen einen in Stufen geteilten Markt statt eines einheitlichen Preises. Google Cloud berechnet $4 pro 1 Million Zeichen für Standard- und WaveNet-Stimmen, aber $160 für Studio-Stimmen, ein 40-facher Unterschied für denselben Text (Google Cloud Text-to-Speech pricing). Amazon Polly reicht von $4 für Standard bis $100 für Long-Form-Stimmen, und sein eigenes Beispiel setzt 1 Million Zeichen mit etwa 23 Stunden und 8 Minuten Sprache gleich (AWS Amazon Polly pricing).
Mit dieser AWS-Umrechnung (23 Stunden 8 Minuten sind etwa 23,13 Stunden) ergibt Polly Generative zu $30 rund $1,30 pro Stunde Audio (30 geteilt durch 23,13) und Standard rund $0,17. Token-basiert bepreiste Modelle erfordern eine andere Rechnung: Google gibt an, dass Gemini-TTS-Audio 25 Tokens pro Sekunde entspricht, eine Stunde also 90.000 Audio-Tokens, und Gemini 2.5 Pro TTS zu $20 pro Million Audio-Tokens kommt vor den Kosten für die Texteingabe auf $1,80 pro Stunde Ausgabe. Open-Weight-Modelle drücken das weiter: Artificial Analysis listet Kokoro 82M auf Replicate mit $0,65 pro Million Zeichen (Artificial Analysis text-to-speech leaderboard). Für die breitere GPU-Ökonomie hinter diesen Preisen siehe unsere Statistiken zu KI-Inferenzkosten.
| Metrik | Wert | Quelle |
|---|---|---|
| Listenpreis von Google Cloud pro 1 Mio. Zeichen: Standard und WaveNet vs. Neural2 | $4 vs. $16 | Google-Cloud-Text-to-Speech-Preise 2026 |
| Listenpreis von Google Cloud pro 1 Mio. Zeichen: Chirp 3 HD vs. Instant custom voice vs. Studio | $30 vs. $60 vs. $160 | Google-Cloud-Text-to-Speech-Preise 2026 |
| Listenpreis von Amazon Polly pro 1 Mio. Zeichen: Standard, Neural, Generative, Long-Form | $4, $16, $30, $100 | AWS-Amazon-Polly-Preise 2026 |
| Neuronale Stimmen von Microsoft Azure, Pay-as-you-go vs. Preis für Mehrverbrauch in der Commitment-Stufe mit 2.000M Zeichen, pro 1 Mio. Zeichen | $15 vs. $7,50 | Microsoft-Azure-Speech-Preise 2026 |
| OpenAI tts-1 (beschrieben als auf Geschwindigkeit optimiert) vs. tts-1-hd, pro 1 Mio. Zeichen | $15 vs. $30 | OpenAI-API-Preise 2026 |
| Preis der Audioausgabe von Gemini 2.5 Pro TTS und abgeleitete Kosten pro Stunde Audio (25 Tokens pro Sekunde) | $20 pro 1 Mio. Audio-Tokens, etwa $1,80 pro Stunde | Google-Cloud-Text-to-Speech-Preise 2026 (abgeleitet) |
| Amazon Polly Generative und Standard, abgeleitete Kosten pro Stunde Audio | etwa $1,30 und etwa $0,17 | AWS-Amazon-Polly-Preise 2026 (abgeleitet) |
| Preis der gehosteten API von Kokoro 82M pro 1 Mio. Zeichen (Replicate) | $0,65 | TTS-Rangliste von Artificial Analysis 2026 |
Kontexthinweis: Dies sind Listenpreise zum 31. Oktober 2026, vor ausgehandelten Rabatten. Azures Commitment-Stufen beginnen bei $960 für 80M Zeichen, das sind $12 pro Million (960 geteilt durch 80). Die kostenlosen Kontingente unterscheiden sich stark: Polly Standard enthält 5 Millionen Zeichen pro Monat, Polly Generative dagegen 100 Tausend Zeichen pro Monat in den ersten 12 Monaten. Kokoros eigene Model Card besagt, das Modell sei für etwa $1.000 mit 1.000 A100-80GB-GPU-Stunden trainiert worden (Kokoro-82M model card), was zeigt, wie wenig Trainingsrechenleistung eine kostengünstige Stimme heute braucht.
Zusammenfassung: Echtzeitfaktor und Inferenzkosten bei Text-to-Speech in Zahlen
| Metrik | Wert | Quelle |
|---|---|---|
| Geschwindigkeit von HiFi-GAN V3 vs. WaveNet auf einer V100-GPU, Vielfaches von Echtzeit | 1.186,80x vs. 0,003x | Kong et al., HiFi-GAN 2020 |
| RTF von FastSpeech 2 vs. Transformer TTS | 0,0195 vs. 0,932 | Ren et al., FastSpeech 2 2020 |
| RTF von Matcha-TTS mit 2 Sampling-Schritten, einschließlich Vocoder | 0,015 | Mehta et al., Matcha-TTS 2023 |
| RTF von F5-TTS bei 16 Schritten vs. RTF von CosyVoice | 0,15 vs. 0,92 | Chen et al., F5-TTS 2024 |
| Latenz bis zum ersten Paket, VoXtream vs. CosyVoice2, gleicher A100-Test | 102 ms vs. 1.643 ms | KTH, VoXtream 2025 |
| Latenz von DSM-TTS, Batchgröße 1 vs. 64 | 150 ms vs. 403 ms | Kyutai, DSM-TTS 2025 |
| Latenz bis zum ersten Audio bei Riva, 1 vs. 32 Streams | 22 ms vs. 323 ms | NVIDIA-Riva-2.16.0-Dokumentation (vom Anbieter durchgeführt) |
| Erstes Audio bei SpeakStream mit PWG vs. Streaming-Vocoder | 180 ms vs. 40 ms | Apple, SpeakStream 2025 |
| Geschwindigkeit der On-Device-Synthese bei Apple, zwei Mobilgeräte | 1,47x und 3,03x Echtzeit | Apple, On-device neural speech synthesis 2021 |
| Mel-Erzeugung von EfficientSpeech auf einem Raspberry Pi 4 | 104,3x Echtzeit | EfficientSpeech 2023 |
| Batch-RTF von Mobile PresenTra auf einem Google Pixel 5 | etwa 0,3 | Okamoto et al. (NICT), Mobile PresenTra, Interspeech 2024 |
| Wortfehlerrate von SupertonicTTS bei 4 vs. 8 Sampling-Schritten | 11,43% vs. 2,818% | Supertone, SupertonicTTS 2025 |
| Wortfehlerrate von F5-TTS bei 7 Schritten, gleichmäßig verteilt vs. beschnittener Plan | 4,16% vs. 2,45% | Zheng et al., Interspeech 2025 |
| Wortfehlerrate von CosyVoice 2 auf dem schwierigen Testsatz, offline vs. Streaming | 6,83% vs. 8,08% | CosyVoice 2 2024 |
| Standard- vs. Studio-Stimmen von Google Cloud, pro 1 Mio. Zeichen | $4 vs. $160 | Google-Cloud-Text-to-Speech-Preise 2026 |
| Long-Form-Stimmen von Amazon Polly, pro 1 Mio. Zeichen | $100 | AWS-Amazon-Polly-Preise 2026 |
| Aus 1 Mio. Zeichen erzeugte Sprache, Preisbeispiel von Amazon | etwa 23 Stunden 8 Minuten | AWS-Amazon-Polly-Preise 2026 |
| Neuronale Stimmen von Azure, Pay-as-you-go pro 1 Mio. Zeichen | $15 | Microsoft-Azure-Speech-Preise 2026 |
| Gehosteter Preis von Kokoro 82M pro 1 Mio. Zeichen | $0,65 | TTS-Rangliste von Artificial Analysis 2026 |
Methodik und Quellen
- Kong, Kim und Bae: HiFi-GAN (2020), Tabelle 1 mit Geschwindigkeit, MOS und Parameterzahlen auf einer V100-GPU und einer Laptop-CPU.
- Ren et al.: FastSpeech 2 (2020), Tabelle 2 mit dem Inferenz-RTF auf einem V100-Server bei Batchgröße 1.
- Mehta et al.: Matcha-TTS (2023), RTF einschließlich Vocoding auf RTX-3090-GPUs.
- Li et al.: StyleTTS 2 (2023), RTF insgesamt und nach Anzahl der Diffusionsschritte.
- Chen et al.: F5-TTS (2024), RTF auf einer RTX 3090 für 10 s Sprache, mit einer Vergleichstabelle der Baselines.
- Supertone: SupertonicTTS (2025), RTF auf RTX 4090 und RTX 3090 sowie die Ablation der Sampling-Schritte.
- KTH Royal Institute of Technology: VoXtream (2025), Latenz bis zum ersten Paket und RTF in FP16 auf einer A100.
- Kyutai: Streaming Sequence-to-Sequence Learning with Delayed Streams Modeling (2025), Latenz, RTF und Durchsatz von DSM-TTS nach Batchgröße.
- Apple: SpeakStream (2025), Latenz auf einem M4-Pro-Mac-mini mit MLX; On-device neural speech synthesis (2021), Messungen auf Mobilgeräten.
- FunAudioLLM: CosyVoice 2 (2024), Qualität Streaming vs. Offline; CosyVoice GitHub README (Projektbehauptung, 2026).
- EfficientSpeech (2023) und Nix-TTS (2022), Modelle mit kleinem Footprint auf CPU und Raspberry Pi.
- Interspeech-Paper: Okamoto, Ohtani und Kawai (NICT), Mobile PresenTra (2024), Smartphone-RTF und -Latenz; Lee et al. (Samsung Research), Efficient Streaming TTS Acoustic Model with Depthwise RVQ Decoding Strategies in a Mamba Framework (2025), Single-Thread-CPU-RTF und -Latenz; Zheng et al., Accelerating Flow-Matching-Based Text-to-Speech via Empirically Pruned Step Sampling (2025), Geschwindigkeit und Fehlerraten von F5-TTS nach Schrittzahl.
- NVIDIA: Riva 2.16.0 TTS performance, vom Anbieter durchgeführte Latenz- und RTFX-Tabellen.
- Preisseiten, abgerufen am 31. Oktober 2026: Google Cloud Text-to-Speech, Amazon Polly, Microsoft Azure Speech, OpenAI API und die OpenAI-tts-1-Modellseite.
- Artificial Analysis text-to-speech leaderboard (2026) und die Kokoro-82M model card (Hugging Face), für Preise von Open-Weight-Modellen und Trainingskosten.
- Daten-Hinweis: RTF-Zahlen sind zwischen Papern nicht vergleichbar, solange Hardware, Batchgröße, Präzision und die Einbeziehung des Vocoders nicht übereinstimmen; selbst innerhalb eines Papers meldet SupertonicTTS 0,037 und 0,02 für scheinbar dieselbe Einstellung. Das F5-TTS-Paper gibt nicht an, wie die RTFs seiner Baselines gemessen wurden, und die Geschwindigkeit von F5-TTS selbst widerspricht sich zwischen Quellen auf demselben GPU-Modell: Das Originalpaper nennt 0,15 bei 16 Schritten und 0,31 bei 32 Schritten auf einer RTX 3090, während Zheng et al. 0,065 und 0,123 auf einer RTX 3090 nennen, ohne Erklärung der Differenz auf den von uns gelesenen Seiten. Kyutais Tabelle 6 nennt ihre GPU nicht, und das Paper druckt etwa 800 ms Latenz für F5-TTS bei 16 Schritten und etwa 400 ms bei 32 Schritten, das Gegenteil dessen, was mehr Schritte normalerweise bewirken, daher haben wir diese beiden Werte nicht verwendet. Die VoXtream-Messung und die Zahl aus dem CosyVoice-README beziehen sich auf unterschiedliche CosyVoice-Versionen und sind daher nicht direkt vergleichbar. Die beiden Umrechnungen von Zeichen in Audio widersprechen sich: Amazons Beispiel impliziert etwa 720 Zeichen pro Minute (1.000.000 Zeichen geteilt durch 1.388 Minuten), während die Kokoro-Card etwa 1.000 verwendet, sodass Kosten pro Stunde auf Basis von Kokoros Verhältnis etwa 39% höher wären als auf Basis von Amazons (1.000 geteilt durch 720 sind etwa 1,39). Google Cloud kennzeichnet seine Gemini-3.8-TTS-Modelle als Preview, mit Preisänderungen, die für den 1. Januar 2027 vorgesehen sind. Die MLPerf-Inference-Regeln von MLCommons führen Whisper für Sprache-zu-Text auf, aber keine Text-to-Speech-Arbeitslast, sodass es für die TTS-Geschwindigkeit dort keinen neutralen Branchen-Benchmark gibt; mehrere der Hardware-Paper hier sind älter als drei Jahre und als neueste verfügbare Daten gekennzeichnet.
Zuletzt aktualisiert: 31. Oktober 2026. Wir aktualisieren diese Zusammenstellung vierteljährlich, und die nächste Aktualisierung wird erwartet, wenn die Preisänderung für Gemini TTS bei Google Cloud am 1. Januar 2027 in Kraft tritt.