Über 10 Sprachen hinweg antworten Menschen auf eine Frage nach einer mittleren Pause von nur 208 ms, doch Twilios Startziel für einen kaskadierten Voice-KI-Agenten ist eine Sprecherwechsel-Pause von 1.115 ms von Mund zu Ohr, etwa 5-mal so lang (1.115 ÷ 208 ≈ 5,4). Die menschliche Messlatte ist so niedrig, weil Zuhörer das Ende eines Beitrags vorhersagen: Schon ein einziges Wort zu produzieren dauert etwa 600 ms, also wird die Antwort geplant, während der andere noch spricht (Levinson und Torreira, Frontiers in Psychology 2015). Sprachagenten können nicht auf die gleiche Weise vorhersagen, also warten sie, transkribieren, denken und synthetisieren nacheinander, und die jüngste unabhängige Rangliste zeigt für Speech-to-Speech-Modelle eine mittlere Zeit bis zum ersten Audio von 0,44 s bis 2,98 s (Artificial Analysis Speech to Speech Index 2026). Für Contact Center, die Automatisierung einführen, Thema unserer Statistiken zur Contact-Center-Automatisierung mit Sprachagenten, ist die Latenz der Teil des Erlebnisses, den Anrufer spüren, bevor sie ein einziges nützliches Wort hören. Wir haben Daten aus den PNAS-Studien zum Sprecherwechsel, dem internationalen Telefonie-Verzögerungsstandard, Open-Source- und Anbieter-Engineering-Leitfäden, unabhängigen Ranglisten sowie Forschungs-Benchmarks von arXiv und der ACM CUI zusammengetragen.
TL;DR
- Mittlere Pause vor einer Antwort über 10 Sprachen: 208 ms; Median 100 ms (Stivers et al., PNAS 2009)
- 70% bis 82% der Sprecherwechsel in Gesprächen dauern weniger als 500 ms (Heldner und Edlund 2010, ausgewertet in Frontiers in Psychology 2015)
- ITU-T G.114 legt 400 ms als Obergrenze der Verzögerung in einer Richtung für die Netzplanung fest, unter 150 ms gilt als im Wesentlichen transparent (ITU-T G.114, 2003)
- Ein Forschungs-Sprachagent für Telekommunikation brauchte über 500 aufgezeichnete Fragen im Mittel 678 ms bis zum ersten Audio (Ethiraj et al., NetoAI, arXiv 2025)
- Identische Gesprächsausschnitte wirkten mit einer mittleren Pause von 55,68 ms verbundener als mit 557,14 ms (Templeton et al., PNAS 2022)
- Deepgram gibt für sein Modell Flux eine Erkennung des Beitragsendes nach etwa 260 ms an (Deepgram-Flux-Dokumentation 2025, Herstellerangabe)
- LiveKits aktualisiertes Modell zur Erkennung des Beitragsendes senkte Fehlunterbrechungen über 14 Sprachen von 18,66% auf 11,34% (LiveKit, 12. Dezember 2025)
- ElevenLabs Flash v2.5 wurde mit 197 ms Median-Latenz inklusive Netzwerk gemessen, gegenüber einer Herstellerangabe von 75 ms für die Inferenz (Vapi Humanness Index, Juni 2026)
- OpenAI gab für Audioantworten von GPT-4o im Mittel 320 ms an, gegenüber 5,4 s bei seiner älteren GPT-4-Sprachpipeline (OpenAI, Hello GPT-4o 2024, Herstellerangabe)
- Gemini Live brauchte 1,301 s, um das Wort zu übernehmen, gegenüber 0,265 s bei Moshi im Full-Duplex-Bench (Lin et al., arXiv 2025)
- Nutzer wählten den Agenten mit hoher Latenz in 61,11% der Fälle als den, der ihnen am wenigsten gefiel (Maslych et al., ACM CUI 2025)
1. Die menschliche Referenz: Wie schnell Menschen das Wort übernehmen
Der Maßstab, an dem jeder Sprachagent gemessen wird, wurde lange vor der Existenz von Software gesetzt. Im größten Sprachvergleich zum Timing des Sprecherwechsels war die häufigste Pause zwischen einer Frage und ihrer Antwort 0 ms, und der sprachübergreifende Median lag bei 100 ms (Stivers et al., Universals and cultural variation in turn-taking in conversation, PNAS 2009). Sprecher warten nicht auf Stille, um dann zu reagieren; sie starten die Antwort in dem Moment, in dem die Frage endet.
Diese Geschwindigkeit ist eine Planungsleistung, kein Reflex. Bildbenennungsexperimente veranschlagen für die Produktion eines Wortes etwa 600 ms und für einen kurzen Satz etwa 1.500 ms, weshalb Forscher schließen, dass Zuhörer vorhersagen müssen, wann ein Beitrag endet, und die Antwort parallel vorbereiten (Levinson und Torreira, Frontiers in Psychology 2015). Ein kaskadierter Sprachagent macht das Gegenteil: Er wartet, bis der Anrufer aufhört, und startet dann die ganze Kette.
| Metrik | Wert | Quelle |
|---|---|---|
| Mittlere Pause zwischen Frage und Antwort, alle 10 Sprachen zusammen | 208 ms | Stivers et al., PNAS 2009 |
| Mediane Pause zwischen Frage und Antwort, alle 10 Sprachen zusammen | 100 ms | Stivers et al., PNAS 2009 |
| Mittelwerte der schnellsten und der langsamsten Sprache (Japanisch vs Dänisch) | 7 ms vs 469 ms | Stivers et al., PNAS 2009 |
| Anteil der Sprecherwechsel unter 500 ms | 70% bis 82% | Heldner und Edlund 2010, ausgewertet in Levinson und Torreira, Frontiers in Psychology 2015 |
| Anteil der Sprecherwechsel, die den vorigen Sprecher überlappen (Switchboard-Telefonkorpus, 348 Gespräche) | 30,1% | Levinson und Torreira, Frontiers in Psychology 2015 |
| Zeit, die nötig ist, um ein einzelnes benanntes Wort zu beginnen (Bildbenennung) | Etwa 600 ms | Indefrey und Levelt 2004, ausgewertet in Levinson und Torreira, Frontiers in Psychology 2015 |
| Typische (modale) menschliche Reaktionszeit zwischen Beiträgen | Rund 200 ms | Templeton et al., PNAS 2022 |
Hinweis zum Kontext: Die Stichprobe aus 10 Sprachen umfasst 101 Gespräche auf 5 Kontinenten. Der Artikel gibt an, dass die Mittelwerte der Sprachen innerhalb von etwa 250 ms nach oben und unten um den sprachübergreifenden Mittelwert liegen, auch wenn Dänisch rund 261 ms darüber liegt (469 minus 208). Aktuellste verfügbare Daten: die oben genannten Studien von 2009 und 2015. Diese Referenzwerte ändern sich langsam, daher spielt ihr Alter eine geringere Rolle als bei Produkt-Benchmarks.
2. Grenzen der Netz- und Telefonieverzögerung
Bevor ein Modell läuft, verbraucht das Telefonnetz bereits einen Teil des Budgets. “Verzögerung in einer Richtung” bedeutet hier die Zeit, die der Schall vom Mund des Sprechers zum Ohr des Zuhörers in eine Richtung braucht, keine Hin-und-zurück-Zeit. ITU-T-Empfehlung G.114 besagt, dass eine Verzögerung von 400 ms in einer Richtung bei der allgemeinen Netzplanung nicht überschritten werden sollte und dass Verzögerungen unter 150 ms für die meisten Anwendungen im Wesentlichen transparent sind (ITU-T G.114, One-way transmission time).
Die Ära der Sprachagenten stellt diese Grenzen auf den Kopf. Der Standard wurde für Gespräche zwischen Menschen geschrieben, bei denen die Gegenseite in etwa 200 ms antwortet; ein Agent, der eine Sekunde zum Nachdenken braucht, verbraucht mehr als das Doppelte des gesamten 400-ms-Netzbudgets, bevor er ein Wort sagt. Twilios eigene Zahlen zeigen die Aufteilung: Das Ziel für die gesamte Sprecherwechsel-Pause von Mund zu Ohr liegt bei 1.115 ms und das Ziel innerhalb der Agentenplattform bei 885 ms, was etwa 230 ms für Netz- und Telefonleitungsdurchlauf impliziert (1.115 minus 885).
| Metrik | Wert | Quelle |
|---|---|---|
| Maximal empfohlene Verzögerung in einer Richtung für die allgemeine Netzplanung | 400 ms | ITU-T G.114 (05/2003) |
| Verzögerung in einer Richtung, unterhalb der die meisten Sprach- und Nicht-Sprach-Anwendungen im Wesentlichen transparent wirken | 150 ms | ITU-T G.114 (05/2003) |
| Erwartete VoIP-Verzögerung von Mund zu Ohr auf innerregionalen Strecken bis 5.000 km | Unter 150 ms | ITU-T G.114, Anhang II |
| VoIP-Verzögerung von Mund zu Ohr auf terrestrischen interregionalen Worst-Case-Strecken (27.500 km) | Knapp über 300 ms | ITU-T G.114, Anhang II |
| Hin- und Rückweg über das öffentliche Internet zu einem Sprachsynthese-Server, je nach Entfernung | 20 bis 200 ms | ElevenLabs-Latenzdokumentation 2026 (Anbieter) |
Hinweis zum Kontext: Die Ausgabe vom Mai 2003 wird weiterhin als gültig geführt. Verzögerungen unter 400 ms werden mit dem E-Modell der Empfehlung G.107 bewertet, einer Formel, die die Gesprächsqualität aus der Verzögerung schätzt, und die Einleitung merkt an, dass hochinteraktive Aufgaben bereits durch Verzögerungen unter 100 ms beeinträchtigt werden können. Aktuellste verfügbare Daten: die Ausgabe von 2003.
3. Das Latenzbudget eines kaskadierten Sprachagenten
Ein kaskadierter Agent verkettet drei Modelle: Sprache-zu-Text (STT), ein großes Sprachmodell (LLM) und Text-zu-Sprache (TTS). Twilios Komponentenziele summieren sich auf 825 ms (350 + 375 + 100), seine Obergrenzen aber auf 1.500 ms (500 + 750 + 250), was bedeutet, dass ein Stack, der lediglich jede Einzelgrenze einhält, die Ende-zu-Ende-Obergrenze von 1.400 ms trotzdem überschreiten kann (Twilio, A Guide to Core Latency in AI Voice Agents). Der Leitfaden bezeichnet diese Werte als “Ausgangswerte, nicht Bestwerte ihrer Klasse”.
Die Referenzaufschlüsselung im Pipecat-Leitfaden zeigt, wohin die Zeit tatsächlich fließt: Transkription mit Endpointing (Erkennung des Äußerungsendes), die Zeit bis zum ersten Byte des LLM und die Zeit bis zum ersten Byte des TTS machen zusammen 1.070 ms von insgesamt 1.293 ms aus, etwa 83% (1.070 ÷ 1.293), während die gesamte Audio-Infrastruktur (Mikrofon, Codecs, Jitter-Puffer, Lautsprecher) den Rest beansprucht (Voice AI and Voice Agents guide). Ein “Jitter-Puffer” ist eine kurze Warteschlange, die die ungleichmäßige Ankunft von Paketen glättet; die Aufschlüsselung veranschlagt dafür 40 ms pro Richtung. Eine für Telekommunikationsfragen gebaute Forschungspipeline auf einer einzelnen H100-GPU landete im selben Bereich (Ethiraj et al., arXiv 2508.04721).
| Metrik | Wert | Quelle |
|---|---|---|
| Latenz von Sprache-zu-Text, Ziel vs Obergrenze | 350 ms vs 500 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| LLM-Zeit bis zum ersten Token, Ziel vs Obergrenze | 375 ms vs 750 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Text-zu-Sprache-Zeit bis zum ersten Byte, Ziel vs Obergrenze | 100 ms vs 250 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Sprecherwechsel-Pause von Mund zu Ohr, wie vom Anrufer wahrgenommen, Ziel vs Obergrenze | 1.115 ms vs 1.400 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Referenzwert Voice-to-Voice gesamt, Summe von 16 Stufen vom Mikrofon bis zum Lautsprecher | 1.293 ms (laut Leitfaden-Text etwa 1.200 ms) | Voice AI and Voice Agents guide, Pipecat 2026 |
| Voice-to-Voice-Latenz, die der Leitfaden als wichtiges Ziel nennt | 1.500 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Mittlere Zeit bis zum ersten Audio in einer Telekommunikationspipeline, 500 aufgezeichnete Fragen (Minimum bis Maximum) | 678 ms (412 bis 1.482 ms) | Ethiraj et al., NetoAI, arXiv 2025 |
| Mittlere Ende-zu-Ende-Verarbeitungszeit pro Äußerung in derselben Telekommunikationspipeline | 934 ms | Ethiraj et al., NetoAI, arXiv 2025 |
Hinweis zu Ausreißern: Ein Forschungsteam von Sprinklr berichtete von einem ersten Audio-Chunk “von nur 640,9 ms” auf einer NVIDIA-L4-GPU, aber von 1.748,6 ms für dieselbe Konfiguration auf einer CPU, eine Erinnerung daran, dass allein die Hardware die Zeit bis zum ersten Audio mehr als verdoppeln kann (Choudhary und Purwar, arXiv 2509.20971).
4. Endpointing und Erkennung des Beitragsendes
“Endpointing” (Erkennung des Äußerungsendes) ist die Entscheidung des Agenten, dass der Anrufer fertig gesprochen hat. Es ist die Stufe, die am häufigsten von Hand abgestimmt wird, denn sie tauscht Tempo gegen Unhöflichkeit: Wartet der Agent zu kurz, unterbricht er Leute mitten im Satz, wartet er zu lange, hört der Anrufer Funkstille. LiveKits aktualisiertes Modell zur Erkennung des Beitragsendes senkte die Rate der Fehlunterbrechungen über 14 Sprachen von 18,66% auf 11,34%, eine relative Reduktion von 39,23%, ohne Anstieg der Antwortlatenz (LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%).
Die Herstellerzahlen zeigen, wie viel vom Budget allein diese eine Entscheidung steuert. Deepgram gibt an, sein Modell Flux könne die Antwortlatenz des Agenten gegenüber Pipeline-Ansätzen um 200 bis 600 ms senken, und ein früh gesendetes Signal (“eager”) treffe 150 bis 250 ms früher ein, um den Preis von 50 bis 70% mehr LLM-Aufrufen (Deepgram, Introducing Flux). Diese zusätzlichen Aufrufe sind der versteckte Preis der Geschwindigkeit: Der Agent beginnt, Antworten auf Sätze zu entwerfen, die der Anrufer womöglich noch gar nicht beendet hat. Auch Hintergrundgeräusche verschieben diese Entscheidungen, ein Thema, das wir in den Latenzstatistiken zur neuronalen Rauschunterdrückung verfolgen.
| Metrik | Wert | Quelle |
|---|---|---|
| Für Flux angegebene Latenz der Erkennung des Beitragsendes | Etwa 260 ms | Deepgram-Flux-Dokumentation 2025 (Herstellerangabe) |
| Latenz des Beitragsendes bei Flux im 90. und 95. Perzentil | 1 s und 1,5 s | Deepgram, Introducing Flux, 1. Oktober 2025 (Herstellerangabe) |
| Für Flux angegebene Reduktion von Fehlunterbrechungen | Etwa 30% | Deepgram, Introducing Flux 2025 (Herstellerangabe) |
| Rate der Fehlunterbrechungen, alle 14 Sprachen, altes vs neues LiveKit-Modell (bei fester Richtig-positiv-Rate von 99,3%) | 18,66% vs 11,34% | LiveKit, 12. Dezember 2025 |
| Rate der Fehlunterbrechungen, Englisch, altes vs neues LiveKit-Modell | 16,6% vs 13,0% | LiveKit, 12. Dezember 2025 |
| Stille, auf die die VAD-Konfiguration des Beispielservers wartet, bevor sie einen Beitrag beendet | 500 ms | OpenAI-Realtime-VAD-Leitfaden 2026 |
Hinweis zum Kontext: VAD (Sprachaktivitätserkennung) ist der einfache Detektor, der hört, ob jemand spricht; der Wert von 500 ms ist die Beispielkonfiguration im Realtime-VAD-Leitfaden von OpenAI, kein angegebener Standardwert. Eine feste Regel von 500 ms Stille ist allein schon mehr als doppelt so lang wie die mittlere menschliche Pause von 208 ms aus Abschnitt 1.
5. LLM-Zeit bis zum ersten Token und TTS-Zeit bis zum ersten Audio
Sobald der Beitrag endet, muss das Modell zu sprechen beginnen. Die Faustregel im Pipecat-Leitfaden lautet, dass eine LLM-Zeit bis zum ersten Token von 600 ms oder weniger für die meisten Sprachanwendungen schnell genug ist, und nur zwei der vier aufgeführten gehosteten Modelle erreichen diese Marke im Median, während im 95. Perzentil keines sie erreicht (Voice AI and Voice Agents guide). Die Zeit bis zum ersten Token (TTFT) ist die Dauer, die das Sprachmodell braucht, um das erste Stück seiner Antwort auszugeben. Am Telefon zählt das Ende der Verteilung mehr als der Median, denn ein Anrufer erinnert sich an die eine Stille von 1,7 s, nicht an den Durchschnitt.
Die Sprachsynthese ist inzwischen der kleinste Anteil, doch Herstellerangaben und gemessene Werte weichen voneinander ab. ElevenLabs sagt, seine Flash-Modelle erreichten rund 75 ms Modell-Inferenz, ausdrücklich ohne Netzwerk und Anwendungs-Overhead (ElevenLabs-Latenzdokumentation), während ein Drittanbieterlauf mit 50 Live-Streaming-Versuchen von einer Benchmark-Maschine einen Median von 197 ms maß (Vapi Humanness Index). Teams, die Synthese-Engines vergleichen, auch für einen KI-Stimmgenerator, sollten fragen, welche der beiden Zahlen ein Datenblatt nennt.
| Metrik | Wert | Quelle |
|---|---|---|
| GPT-4.1 Zeit bis zum ersten Token, Median vs 95. Perzentil | 536 ms vs 1.771 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Gemini 2.5 Flash Zeit bis zum ersten Token, Median vs 95. Perzentil | 597 ms vs 1.137 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Claude 4.5 Haiku Zeit bis zum ersten Token, Median vs 95. Perzentil | 637 ms vs 1.615 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| GPT-5.1 Zeit bis zum ersten Token, Median vs 95. Perzentil | 739 ms vs 1.492 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| ElevenLabs Flash v2.5, angegebene Inferenz vs gemessene Streaming-Latenz inklusive Netzwerk | 75 ms vs 197 ms | ElevenLabs-Dokumentation 2026 (Herstellerangabe); Vapi Humanness Index, 10. Juni 2026 |
| Cartesia Sonic 3.5, gemessene Streaming-Latenz | 128 ms | Vapi Humanness Index 2026 |
| ElevenLabs Multilingual v2, gemessene Streaming-Latenz | 1.006 ms | Vapi Humanness Index 2026 |
Hinweis zum Kontext: Vapi betreibt eine Plattform für Sprachagenten, keine Sprachsynthese-Engine, aber sein Index bleibt ein von der Plattform durchgeführter Benchmark. Die Seite nennt die Methode mit 50 Versuchen nur für Flash v2.5, sodass die übrigen gemessenen Werte möglicherweise nicht direkt vergleichbar sind. ElevenLabs merkt außerdem an, dass ein Audio-Player-Puffer von 500 ms “üblich ist”, was auf der Client-Seite den größten Teil des Vorteils eines schnellen Modells zunichtemachen kann.
6. Gemessene Latenz von Speech-to-Speech- und Vollduplex-Modellen
Speech-to-Speech-Modelle überspringen die Übergaben über Text, und Vollduplex-Modelle hören und sprechen gleichzeitig, sodass sie die Lücke zum menschlichen Timing theoretisch schließen sollten. Kyutais Moshi gibt eine theoretische Latenz von 160 ms und 200 ms in der Praxis an (Kyutai, Moshi, arXiv 2410.00037), und ein unabhängiger Benchmark maß, dass es nach 0,265 s das Wort übernimmt (Lin et al., Full-Duplex-Bench, arXiv 2503.04721).
Kommerzielle Modelle streuen viel stärker. Im Artificial-Analysis-Index vom 23. Juni 2026 reichte die mittlere Zeit bis zum ersten Audio von 0,44 s bis 2,98 s; die beiden langsamsten Einträge waren Reasoning-Einstellungen “High”, und einer davon, GPT-Realtime-2 (High) mit 2,33 s, erzielte mit 77,2% die höchste Indexpunktzahl (Artificial Analysis, Speech to Speech Index). Tempo und Intelligenz ziehen weiterhin in entgegengesetzte Richtungen. Auch Live-Untertitelung steht vor einem ähnlichen Zielkonflikt zwischen Geschwindigkeit und Genauigkeit, den wir in den Latenzstatistiken zur Echtzeit-Untertitelung verfolgen.
| Metrik | Wert | Quelle |
|---|---|---|
| Antwortzeit von GPT-4o auf Audioeingabe, schnellste vs durchschnittliche | 232 ms vs 320 ms | OpenAI, Hello GPT-4o 2024 (Herstellerangabe) |
| Durchschnittliche Latenz der früheren Sprachmodus-Pipeline von ChatGPT, GPT-3.5 vs GPT-4 | 2,8 s vs 5,4 s | OpenAI, Hello GPT-4o 2024 (Herstellerangabe) |
| Latenz von Moshi, theoretisch vs praktisch | 160 ms vs 200 ms | Kyutai, Moshi-Paper, arXiv 2024 |
| Zeit bis zur Übernahme des Worts, nachdem der Nutzer aufhört zu sprechen (CANDOR-Gesprächsdatensatz), Moshi vs Gemini Live | 0,265 s vs 1,301 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Zeit bis zur Antwort nach einer Unterbrechung durch den Nutzer, Moshi vs Gemini Live | 0,257 s vs 1,183 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Mittlere Zeit bis zum ersten Audio, schnellstes Modell im Index (Deepslate Opal) | 0,44 s | Artificial Analysis Speech to Speech Index, 23. Juni 2026 |
| Mittlere Zeit bis zum ersten Audio, GPT-Realtime-1.5 | 0,82 s | Artificial Analysis Speech to Speech Index, 23. Juni 2026 |
| Mittlere Zeit bis zum ersten Audio, Gemini 3.1 Flash Live Preview (High) | 2,98 s | Artificial Analysis Speech to Speech Index, 23. Juni 2026 |
Hinweis zu Ausreißern: Die OpenAI-Zahlen sind eine Angabe zum Launch aus der Modellankündigung, keine unabhängige Messung, und sie verwenden eine andere Metrik als die Ranglistenzeilen in derselben Tabelle, sodass die beiden Gruppen nicht direkt verglichen werden sollten. Moshi ist schnell, aber kein Contact-Center-Modell: Es ergreift in 98,5% der synthetischen Pausenfälle das Wort, springt also ein, wenn der Nutzer nur kurz innegehalten hat (Full-Duplex-Bench).
7. Was Latenz mit Anrufern und Gesprächen macht
Geschwindigkeit ist keine Eitelkeitsmetrik. In einer kontrollierten Hörstudie mit 450 Zuhörern wurden identische Gesprächsausschnitte, die auf eine mittlere Pause von 55,68 ms geschnitten wurden, als verbundener bewertet als dieselben Ausschnitte mit 557,14 ms, mit Verbundenheit F(2; 2.344,3) = 28,51, P < 0,001 (Templeton et al., PNAS 2022). Zuhörer lesen das Timing als soziales Signal, und ein langsamer Agent sendet das falsche.
Speziell für KI-Agenten stellte eine Studie mit 54 Personen zu virtuellen Agenten fest, dass jede Verzögerungsstufe die wahrgenommene Geschwindigkeit verschlechterte, und die Autoren schließen, dass eine Latenz über 4 Sekunden die Qualität des Erlebnisses mindert; natürliche gesprochene Füllwörter verbesserten die wahrgenommene Antwortgeschwindigkeit bei 4,0 s und 6,5 s, ein künstliches Lade-Symbol samt Ton dagegen nicht (Maslych et al., ACM CUI 2025). Stille verändert auch die Bedeutung: Die Gesprächsforschung bringt Pausen von 700 ms oder mehr mit dispräferierten Antworten in Verbindung (Antworten wie Ablehnen oder Widersprechen), sodass ein Agent mit einer Pause von 1 Sekunde Gefahr läuft, zögerlich zu klingen, selbst wenn die Antwort Ja lautet. Ein Vergleich von Audio-Foundation-Modellen stellte fest, dass Stille bei einem kaskadierten System 32,4% der Gesprächszeit ausmachte, bei Moshi dagegen 11,8% (Arora et al., Talking Turns, arXiv 2503.01174).
| Metrik | Wert | Quelle |
|---|---|---|
| Nutzer, die den Agenten mit niedriger Latenz (1,5 s) als den wählten, der ihnen am besten gefiel | 57,41%, χ²(2, N = 54) = 14,12, p < 0,0001 | Maslych et al., ACM CUI 2025 |
| Nutzer, die den Agenten mit hoher Latenz (6,5 s) als den wählten, der ihnen am wenigsten gefiel | 61,11%, χ²(2, N = 54) = 19,0, p < 0,0001 | Maslych et al., ACM CUI 2025 |
| Gemessene Antwortzeit des eigenen kaskadierten Agenten der Studie vor der zusätzlichen Verzögerung | 1,47 s im Mittel | Maslych et al., ACM CUI 2025 |
| Pausenlänge, die in menschlichen Gesprächen mit dispräferierten (negativen) Antworten verbunden ist | 700 ms oder mehr | Levinson und Torreira, Frontiers in Psychology 2015 (Übersichtsarbeit) |
| Anteil der Gesprächszeit in Stille, kaskadiertes System vs Moshi | 32,4% vs 11,8% | Arora et al., Talking Turns, arXiv 2025 |
| Zusätzliche Übertragungsverzögerung, ab der Gesprächspartner als weniger aufmerksam, freundlich und selbstdiszipliniert bewertet wurden als ohne Verzögerung | 1,2 s | Schoenenberg, Raake und Koeppe, International Journal of Human-Computer Studies 2014 |
| Voice-KI-Entwickler, die mit der Gesprächsqualität sehr zufrieden sind (Umfrage unter 40) | 2% | Deepgram, Introducing Flux 2025 (Herstellerumfrage) |
| Voice-KI-Entwickler, die spürbare bis gravierende Probleme im Gesprächsfluss melden (Umfrage unter 40) | 61% | Deepgram, Introducing Flux 2025 (Herstellerumfrage) |
Hinweis zum Kontext: Der Befund zur Verzögerung von 1,2 s stammt aus der eigenen Zusammenfassung der Studie durch den Erstautor (phys.org, Mai 2014); aktuellste verfügbare Daten: Schoenenberg et al., 2014. Wir haben keinen begutachteten Datensatz aus 2025 oder 2026 gefunden, der die gemessene Agentenlatenz mit realen Anrufabbruchraten verknüpft, sodass die obigen Belege zur Zufriedenheit aus kontrollierten Studien und nicht aus Anrufprotokollen im Produktivbetrieb stammen.
Zusammenfassung: Latenz von Voice-KI-Agenten in Zahlen
| Metrik | Wert | Quelle |
|---|---|---|
| Mittlere Pause zwischen Frage und Antwort, 10 Sprachen | 208 ms | Stivers et al., PNAS 2009 |
| Sprecherwechsel unter 500 ms | 70% bis 82% | Heldner und Edlund 2010, über Frontiers in Psychology 2015 |
| Zeit, um ein einzelnes Wort zu beginnen | Etwa 600 ms | Levinson und Torreira, Frontiers in Psychology 2015 |
| Mittlere Pause in Ausschnitten, die als verbundener bewertet wurden, vs dieselben Ausschnitte, die als weniger verbunden bewertet wurden | 55,68 ms vs 557,14 ms | Templeton et al., PNAS 2022 |
| Maximale Verzögerung in einer Richtung für die Netzplanung | 400 ms | ITU-T G.114 (05/2003) |
| Kaskadierter Agent, Ziel von Mund zu Ohr vs Obergrenze | 1.115 ms vs 1.400 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Gesamtsumme der Referenzaufschlüsselung Voice-to-Voice | 1.293 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Mittlere Zeit bis zum ersten Audio der Telekommunikations-Forschungspipeline | 678 ms | Ethiraj et al., NetoAI, arXiv 2025 |
| Angabe zur Erkennung des Beitragsendes bei Flux | Etwa 260 ms | Deepgram-Flux-Dokumentation 2025 (Herstellerangabe) |
| Rate der Fehlunterbrechungen, altes vs neues Modell zur Erkennung des Beitragsendes, 14 Sprachen | 18,66% vs 11,34% | LiveKit, 12. Dezember 2025 |
| Gemessene Streaming-Latenz von ElevenLabs Flash v2.5 | 197 ms | Vapi Humanness Index, Juni 2026 |
| Mittlere Audio-Antwortzeit von GPT-4o | 320 ms | OpenAI, Hello GPT-4o 2024 (Herstellerangabe) |
| Praktische Latenz von Moshi | 200 ms | Kyutai, Moshi-Paper, arXiv 2024 |
| Latenz des Sprecherwechsels, Gemini Live | 1,301 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Spanne der mittleren Zeit bis zum ersten Audio im Index | 0,44 s bis 2,98 s | Artificial Analysis Speech to Speech Index, 23. Juni 2026 |
| Nutzer, denen der Agent mit 6,5 s am wenigsten gefiel | 61,11% | Maslych et al., ACM CUI 2025 |
| Gemessene Antwortzeit eines kaskadierten Forschungsagenten vor der zusätzlichen Verzögerung | 1,47 s | Maslych et al., ACM CUI 2025 |
| Stilleanteil an der Gesprächszeit, kaskadiertes System | 32,4% | Arora et al., Talking Turns, arXiv 2025 |
Methodik und Quellen
- Stivers et al., Universals and cultural variation in turn-taking in conversation, PNAS 2009.
- Levinson und Torreira, Timing in turn-taking and its implications for processing models of language, Frontiers in Psychology 2015 (zugleich Quelle der darin ausgewerteten Zahlen von Heldner und Edlund 2010 sowie Indefrey und Levelt 2004).
- Templeton et al., Fast response times signal social connection in conversation, PNAS 2022.
- ITU-T, Recommendation G.114: One-way transmission time, Mai 2003, in Kraft.
- Twilio, A Guide to Core Latency in AI Voice Agents (Cascaded Edition), 17. November 2025.
- Pipecat, Voice AI and Voice Agents guide, Erstautor Kwindla Hultman Kramer, Aktualisierung vom Juni 2026.
- Ethiraj et al., NetoAI, Toward Low-Latency End-to-End Voice Agents for Telecommunications, arXiv, 5. August 2025.
- Choudhary und Purwar, Sprinklr, i-LAVA: Insights on Low Latency Voice-2-Voice Architecture for Agents, arXiv, 25. September 2025.
- Deepgram, Introducing Flux: Conversational Speech Recognition, 1. Oktober 2025, und die Flux-Schnellstartdokumentation (Herstellerangaben und eine Herstellerumfrage).
- LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%, 12. Dezember 2025 (Hersteller-Benchmark).
- OpenAI, Leitfaden zur Sprachaktivitätserkennung der Realtime API und Hello GPT-4o, 2024 (Herstellerangaben).
- ElevenLabs, Latenzdokumentation, 2026 (Herstellerangabe).
- Vapi, Humanness Index, Seite zu ElevenLabs Flash v2.5, Latenzprüfung am 10. Juni 2026.
- Kyutai, Moshi: a speech-text foundation model for real-time dialogue, arXiv 2024.
- Lin et al., Full-Duplex-Bench, arXiv 2025 (Version 3, 16. August 2025).
- Artificial Analysis, Announcing the Speech to Speech Index, 23. Juni 2026, und die laufend aktualisierte Speech-to-Speech-Rangliste.
- Maslych et al., Mitigating Response Delays in Free-Form Conversations with LLM-powered Intelligent Virtual Agents, ACM CUI 2025.
- Arora et al., Talking Turns: Benchmarking Audio Foundation Models on Turn-Taking Dynamics, arXiv 2025.
- Schoenenberg, Raake und Koeppe, International Journal of Human-Computer Studies 2014, wie vom Erstautor auf phys.org zusammengefasst.
- Daten-Hinweis: Die Live-Rangliste verändert sich zwischen Aktualisierungen; am 27. Oktober 2026 führte sie GPT-Realtime-2 (High) mit 1,14 s bis zum ersten Audio, gegenüber 2,33 s in der Ankündigung vom 23. Juni 2026, und ihre Definition (Sekunden bis zur Erzeugung des ersten Audio-Tokens im Big-Bench-Audio-Datensatz) unterscheidet sich von der Sprecherwechsel-Pause von Mund zu Ohr und von der Sprecherwechsel-Latenz des Full-Duplex-Bench, sodass Werte innerhalb einer Quelle verglichen werden sollten und nicht quellenübergreifend. Die Tabelle im Pipecat-Leitfaden summiert sich auf 1.293 ms, während der Text etwa 1.200 ms nennt. Die Komponentenziele im Leitfaden für kaskadierte Agenten aus Abschnitt 3 (825 ms insgesamt) sind nicht mit seinem Plattformziel von 885 ms in Einklang gebracht. Herstellerangaben (Anbieter von Spracherkennung, Erkennung des Beitragsendes, Sprachsynthese und Echtzeitmodellen) sind als Herstellerangaben oder vom Hersteller durchgeführte Benchmarks gekennzeichnet. Die Studien zum Sprecherwechsel von 2009 und 2015, die Ausgabe 2003 von G.114 und die Verzögerungsstudie von 2014 sind älter als drei Jahre, bleiben aber die aktuellsten verfügbaren Daten für diese Referenzwerte. Noch kein öffentlicher, begutachteter Datensatz verknüpft die gemessene Agentenlatenz mit realen Anrufabbrüchen.
- Zuletzt aktualisiert: 27. Oktober 2026. Wir aktualisieren diese Zusammenstellung vierteljährlich, und die nächste Aktualisierung wird erwartet, sobald Artificial Analysis sein nächstes Update des Speech to Speech Index veröffentlicht.