В 10 языках люди отвечают на вопрос со средней паузой всего 208 мс, но стартовая цель Twilio для каскадного голосового ИИ-агента составляет паузу между репликами в 1 115 мс от рта до уха, примерно в 5 раз больше (1 115 ÷ 208 ≈ 5,4). Человеческая норма так быстра потому, что слушатели предсказывают конец реплики: произнести даже одно слово занимает около 600 мс, поэтому ответ планируется, пока собеседник ещё говорит (Levinson и Torreira, Frontiers in Psychology 2015). Голосовые агенты так предсказывать не умеют, поэтому они ждут, транскрибируют, обдумывают и синтезируют последовательно, а самый свежий независимый рейтинг показывает среднее время до первого аудио для моделей «речь в речь» от 0,44 с до 2,98 с (Artificial Analysis Speech to Speech Index 2026). Для контакт-центров, внедряющих автоматизацию, о чём наша статистика автоматизации контакт-центров с голосовыми агентами, задержка - это та часть опыта, которую звонящие ощущают ещё до того, как услышат хоть одно полезное слово. Мы свели данные из исследований PNAS о смене говорящего, международного стандарта телефонной задержки, инженерных руководств с открытым кодом и от вендоров, независимых рейтингов и исследовательских бенчмарков, опубликованных на arXiv и на ACM CUI.
Кратко (TL;DR)
- Средняя пауза перед ответом в 10 языках: 208 мс; медиана 100 мс (Stivers и др., PNAS 2009)
- От 70% до 82% переходов между репликами в разговоре короче 500 мс (Heldner и Edlund 2010, обобщено в Frontiers in Psychology 2015)
- ITU-T G.114 задаёт 400 мс как потолок односторонней задержки при планировании сетей, а менее 150 мс считается практически незаметным (ITU-T G.114, 2003)
- Исследовательский голосовой агент для телекоммуникаций в среднем показал 678 мс до первого аудио на 500 записанных вопросах (Ethiraj и др., NetoAI, arXiv 2025)
- Одинаковые фрагменты разговора казались более связными со средней паузой 55,68 мс, чем с 557,14 мс (Templeton и др., PNAS 2022)
- Deepgram заявляет о примерно 260 мс на определение конца реплики для своей модели Flux (документация Deepgram Flux 2025, заявление поставщика)
- Обновлённая модель определения конца реплики LiveKit сократила ложные прерывания с 18,66% до 11,34% в 14 языках (LiveKit, 12 декабря 2025 года)
- ElevenLabs Flash v2.5 показал медианную задержку 197 мс с учётом сети против заявленных 75 мс на инференс (Vapi Humanness Index, июнь 2026 года)
- OpenAI сообщила, что аудиоответы GPT-4o занимают в среднем 320 мс против 5,4 с у прежнего голосового конвейера на GPT-4 (OpenAI, Hello GPT-4o 2024, заявление поставщика)
- Gemini Live потребовалось 1,301 с, чтобы перехватить реплику, против 0,265 с у Moshi в Full-Duplex-Bench (Lin и др., arXiv 2025)
- Пользователи выбирали агента с высокой задержкой как наименее понравившегося в 61,11% случаев (Maslych и др., ACM CUI 2025)
1. Человеческая норма: как быстро люди сменяют друг друга в диалоге
Планка, по которой оценивают любого голосового агента, была установлена задолго до появления программ. В крупнейшем межъязыковом сравнении времени смены реплик самая частая пауза между вопросом и ответом составила 0 мс, а межъязыковая медиана - 100 мс (Stivers и др., Universals and cultural variation in turn-taking in conversation, PNAS 2009). Говорящие не ждут тишины, чтобы потом отреагировать; они запускают ответ в тот момент, когда вопрос заканчивается.
Эта скорость - достижение планирования, а не рефлекс. Эксперименты по называнию картинок оценивают время на произнесение одного слова примерно в 600 мс, а короткой фразы - примерно в 1 500 мс, поэтому исследователи заключают, что слушатели должны предсказывать, когда реплика закончится, и готовить ответ параллельно (Levinson и Torreira, Frontiers in Psychology 2015). Каскадный голосовой агент поступает наоборот: он ждёт, пока звонящий замолчит, и только потом запускает всю цепочку.
| Показатель | Значение | Источник |
|---|---|---|
| Средняя пауза между вопросом и ответом, все 10 языков вместе | 208 мс | Stivers и др., PNAS 2009 |
| Медианная пауза между вопросом и ответом, все 10 языков вместе | 100 мс | Stivers и др., PNAS 2009 |
| Средние значения для самого быстрого и самого медленного языка (японский и датский) | 7 мс и 469 мс | Stivers и др., PNAS 2009 |
| Доля переходов между репликами короче 500 мс | от 70% до 82% | Heldner и Edlund 2010, обобщено в Levinson и Torreira, Frontiers in Psychology 2015 |
| Доля переходов реплики, при которых новый говорящий перекрывает предыдущего (телефонный корпус Switchboard, 348 разговоров) | 30,1% | Levinson и Torreira, Frontiers in Psychology 2015 |
| Время, необходимое, чтобы начать произносить одно названное слово (называние картинок) | Около 600 мс | Indefrey и Levelt 2004, обобщено в Levinson и Torreira, Frontiers in Psychology 2015 |
| Типичное (модальное) время человеческого ответа между репликами | Около 200 мс | Templeton и др., PNAS 2022 |
Примечание к контексту: выборка из 10 языков охватывает 101 разговор на 5 континентах. В статье сказано, что средние значения по языкам лежат в пределах примерно 250 мс в обе стороны от межъязыкового среднего, хотя датский находится примерно на 261 мс выше него (469 минус 208). Самые свежие доступные данные: исследования 2009 и 2015 годов, указанные выше. Эти нормы меняются медленно, поэтому их возраст важен меньше, чем для бенчмарков продуктов.
2. Пределы сетевой и телефонной задержки
Прежде чем запустится какая-либо модель, телефонная сеть уже тратит часть бюджета. «Односторонняя задержка» здесь означает время, за которое звук проходит от рта говорящего до уха слушающего в одном направлении, а не время туда и обратно. Рекомендация ITU-T G.114 гласит, что одностороннюю задержку в 400 мс не следует превышать при общем планировании сетей, а задержки ниже 150 мс практически незаметны для большинства приложений (ITU-T G.114, One-way transmission time).
Эпоха голосовых агентов переворачивает эти пределы с ног на голову. Стандарт писали для разговоров между людьми, где собеседник отвечает примерно за 200 мс; агент, которому нужна секунда на раздумье, расходует более чем вдвое весь сетевой запас в 400 мс, ещё не сказав ни слова. Цифры самой Twilio показывают это разделение: её цель для полной паузы между репликами «от рта до уха» составляет 1 115 мс, а цель внутри платформы агента - 885 мс, что подразумевает около 230 мс на прохождение по сети и телефонной линии (1 115 минус 885).
| Показатель | Значение | Источник |
|---|---|---|
| Максимальная рекомендуемая односторонняя задержка для общего планирования сетей | 400 мс | ITU-T G.114 (05/2003) |
| Односторонняя задержка, ниже которой большинство речевых и неречевых приложений ощущаются практически незаметными | 150 мс | ITU-T G.114 (05/2003) |
| Ожидаемая VoIP-задержка от рта до уха на внутрирегиональных маршрутах до 5 000 км | Менее 150 мс | ITU-T G.114, Приложение II |
| VoIP-задержка от рта до уха на межрегиональных наземных маршрутах в худшем случае (27 500 км) | Чуть более 300 мс | ITU-T G.114, Приложение II |
| Круговой путь по публичному интернету до сервера синтеза речи в зависимости от расстояния | от 20 до 200 мс | документация ElevenLabs по задержке 2026 (поставщик) |
Примечание к контексту: редакция мая 2003 года по-прежнему числится действующей. Задержки ниже 400 мс оцениваются по E-модели из Рекомендации G.107, формуле, которая оценивает качество разговора по задержке, а во введении отмечено, что на высокоинтерактивные задачи могут влиять и задержки менее 100 мс. Самые свежие доступные данные: редакция 2003 года.
3. Бюджет задержки каскадного голосового агента
Каскадный агент соединяет цепочкой три модели: распознавание речи (STT), большую языковую модель (LLM) и синтез речи (TTS). Целевые значения Twilio по компонентам в сумме дают 825 мс (350 + 375 + 100), а их верхние пределы в сумме дают 1 500 мс (500 + 750 + 250), а значит, стек, который просто укладывается в каждый предел, всё равно может превысить сквозной потолок в 1 400 мс (Twilio, A Guide to Core Latency in AI Voice Agents). Руководство называет эти значения «стартовыми ориентирами, а не лучшими в классе».
Эталонная разбивка в руководстве Pipecat показывает, куда на самом деле уходит время: транскрипция с определением конца речи (эндпойнтингом), время до первого байта LLM и время до первого байта TTS вместе составляют 1 070 мс из общих 1 293 мс, около 83% (1 070 ÷ 1 293), тогда как вся аудиоинфраструктура (микрофон, кодеки, джиттер-буферы, динамик) занимает остальное (Voice AI and Voice Agents guide). «Джиттер-буфер» - это короткая очередь ожидания, сглаживающая неравномерный приход пакетов; в разбивке на него закладывается по 40 мс в каждом направлении. Исследовательский конвейер, созданный для телекоммуникационных вопросов на одном GPU H100, пришёл к тому же диапазону (Ethiraj и др., arXiv 2508.04721).
| Показатель | Значение | Источник |
|---|---|---|
| Задержка распознавания речи, цель и верхний предел | 350 мс и 500 мс | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Время до первого токена LLM, цель и верхний предел | 375 мс и 750 мс | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Время до первого байта синтеза речи, цель и верхний предел | 100 мс и 250 мс | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Пауза между репликами «от рта до уха», как её воспринимает звонящий, цель и верхний предел | 1 115 мс и 1 400 мс | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Эталонная сумма «голос в голос», складываются 16 этапов от микрофона до динамика | 1 293 мс (в тексте руководства около 1 200 мс) | руководство Voice AI and Voice Agents, Pipecat 2026 |
| Задержка «голос в голос», которую руководство называет важной целью | 1 500 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| Среднее время до первого аудио в телекоммуникационном конвейере, 500 записанных вопросов (от минимума до максимума) | 678 мс (от 412 до 1 482 мс) | Ethiraj и др., NetoAI, arXiv 2025 |
| Среднее сквозное время обработки одного высказывания в том же телекоммуникационном конвейере | 934 мс | Ethiraj и др., NetoAI, arXiv 2025 |
Примечание о выбросах: исследовательская группа Sprinklr сообщила о первом аудиофрагменте «всего за 640,9 мс» на GPU NVIDIA L4, но о 1 748,6 мс при тех же настройках на CPU, что напоминает: одно лишь оборудование способно более чем вдвое увеличить время до первого аудио (Choudhary и Purwar, arXiv 2509.20971).
4. Определение конца речи и конца реплики
«Эндпойнтинг» (определение конца речи) - это решение агента о том, что звонящий закончил говорить. Это этап, который чаще всего настраивают вручную, потому что он обменивает скорость на грубость: если ждать слишком мало, агент перебивает людей на полуслове, если слишком долго - звонящий слышит мёртвую тишину. Обновлённая модель определения конца реплики LiveKit снизила долю ложных прерываний в 14 языках с 18,66% до 11,34%, то есть на 39,23% в относительном выражении, без роста задержки ответа (LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%).
Цифры вендоров показывают, какая часть бюджета зависит от этого единственного решения. Deepgram заявляет, что её модель Flux может сократить задержку ответа агента на 200-600 мс по сравнению с конвейерными подходами, а «ранний» сигнал приходит на 150-250 мс раньше ценой на 50-70% большего числа вызовов LLM (Deepgram, Introducing Flux). Эти лишние вызовы - скрытая цена скорости: агент начинает составлять ответы на фразы, которые звонящий, возможно, ещё не закончил. Фоновый шум тоже сдвигает такие решения, эту тему мы отслеживаем в статистике задержки нейросетевого шумоподавления.
| Показатель | Значение | Источник |
|---|---|---|
| Заявленная задержка определения конца реплики для Flux | Около 260 мс | документация Deepgram Flux 2025 (заявление поставщика) |
| Задержка конца реплики Flux на 90-м и 95-м процентилях | 1 с и 1,5 с | Deepgram, Introducing Flux, 1 октября 2025 года (заявление поставщика) |
| Заявленное сокращение ложных прерываний для Flux | Около 30% | Deepgram, Introducing Flux 2025 (заявление поставщика) |
| Доля ложных прерываний, все 14 языков, старая и новая модель LiveKit (при фиксированной доле истинно положительных 99,3%) | 18,66% и 11,34% | LiveKit, 12 декабря 2025 года |
| Доля ложных прерываний, английский, старая и новая модель LiveKit | 16,6% и 13,0% | LiveKit, 12 декабря 2025 года |
| Тишина, которую ждёт конфигурация VAD примерного сервера, прежде чем завершить реплику | 500 мс | руководство OpenAI Realtime по VAD 2026 |
Примечание к контексту: VAD (определение голосовой активности) - это простой детектор, который слышит, говорит ли кто-то; значение 500 мс - это примерная конфигурация из руководства Realtime по VAD от OpenAI, а не заявленное значение по умолчанию. Одно лишь фиксированное правило в 500 мс тишины уже более чем вдвое превышает среднюю человеческую паузу в 208 мс из раздела 1.
5. Время до первого токена LLM и время до первого аудио TTS
Когда реплика закончилась, модель должна начать говорить. Практическое правило из руководства Pipecat гласит, что время до первого токена LLM в 600 мс или меньше достаточно быстро для большинства голосовых сценариев, и лишь две из четырёх перечисленных размещённых моделей достигают этой отметки по медиане, а на 95-м процентиле её не достигает ни одна (Voice AI and Voice Agents guide). Время до первого токена (TTFT) - это то, сколько языковой модели требуется, чтобы выдать первый фрагмент ответа. На телефонной линии хвост распределения важнее медианы, потому что звонящий запоминает одну паузу в 1,7 с, а не среднее значение.
Синтез речи теперь - самая маленькая доля, но заявленные вендорами и измеренные цифры расходятся. ElevenLabs утверждает, что её модели Flash достигают около 75 мс инференса модели, прямо исключая сеть и накладные расходы приложения (документация ElevenLabs по задержке), тогда как независимый прогон из 50 живых потоковых попыток с тестовой машины показал медиану 197 мс (Vapi Humanness Index). Командам, которые сравнивают движки синтеза, в том числе для генератора ИИ-голоса, стоит выяснять, какое из двух чисел приведено в спецификации.
| Показатель | Значение | Источник |
|---|---|---|
| GPT-4.1, время до первого токена, медиана и 95-й процентиль | 536 мс и 1 771 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| Gemini 2.5 Flash, время до первого токена, медиана и 95-й процентиль | 597 мс и 1 137 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| Claude 4.5 Haiku, время до первого токена, медиана и 95-й процентиль | 637 мс и 1 615 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| GPT-5.1, время до первого токена, медиана и 95-й процентиль | 739 мс и 1 492 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| ElevenLabs Flash v2.5, заявленный инференс и измеренная потоковая задержка с учётом сети | 75 мс и 197 мс | документация ElevenLabs 2026 (заявление поставщика); Vapi Humanness Index, 10 июня 2026 года |
| Cartesia Sonic 3.5, измеренная потоковая задержка | 128 мс | Vapi Humanness Index 2026 |
| ElevenLabs Multilingual v2, измеренная потоковая задержка | 1 006 мс | Vapi Humanness Index 2026 |
Примечание к контексту: Vapi управляет платформой голосовых агентов, а не движком синтеза речи, но её индекс остаётся бенчмарком, проведённым самой платформой. Страница описывает метод из 50 попыток только для Flash v2.5, поэтому остальные измеренные значения могут быть напрямую несопоставимы. ElevenLabs также отмечает, что буфер аудиоплеера в 500 мс «обычное дело», а это на стороне клиента может свести на нет большую часть преимущества быстрой модели.
6. Измеренная задержка моделей «речь в речь» и полнодуплексных моделей
Модели «речь в речь» обходятся без передач через текст, а полнодуплексные модели слушают и говорят одновременно, поэтому в теории им следует сократить разрыв с человеческим темпом. Moshi от Kyutai заявляет теоретическую задержку 160 мс и 200 мс на практике (Kyutai, Moshi, arXiv 2410.00037), а независимый бенчмарк измерил, что она перехватывает реплику через 0,265 с (Lin и др., Full-Duplex-Bench, arXiv 2503.04721).
Коммерческие модели разбросаны куда сильнее. В индексе Artificial Analysis от 23 июня 2026 года среднее время до первого аудио составило от 0,44 с до 2,98 с; две самые медленные позиции были настройками рассуждения «High», и одна из них, GPT-Realtime-2 (High) с 2,33 с, показала наивысший балл индекса, 77,2% (Artificial Analysis, Speech to Speech Index). Скорость и интеллект по-прежнему тянут в разные стороны. Субтитрование в прямом эфире сталкивается с похожим компромиссом между скоростью и точностью, который мы отслеживаем в статистике задержки субтитров в реальном времени.
| Показатель | Значение | Источник |
|---|---|---|
| Время ответа GPT-4o на аудиовход, самое быстрое и среднее | 232 мс и 320 мс | OpenAI, Hello GPT-4o 2024 (заявление поставщика) |
| Средняя задержка прежнего конвейера Голосового режима ChatGPT, GPT-3.5 и GPT-4 | 2,8 с и 5,4 с | OpenAI, Hello GPT-4o 2024 (заявление поставщика) |
| Задержка Moshi, теоретическая и практическая | 160 мс и 200 мс | Kyutai, статья о Moshi, arXiv 2024 |
| Время перехвата реплики после того, как пользователь замолчал (набор разговоров CANDOR), Moshi и Gemini Live | 0,265 с и 1,301 с | Lin и др., Full-Duplex-Bench, arXiv 2025 |
| Время ответа после прерывания пользователем, Moshi и Gemini Live | 0,257 с и 1,183 с | Lin и др., Full-Duplex-Bench, arXiv 2025 |
| Среднее время до первого аудио, самая быстрая модель индекса (Deepslate Opal) | 0,44 с | Artificial Analysis Speech to Speech Index, 23 июня 2026 года |
| Среднее время до первого аудио, GPT-Realtime-1.5 | 0,82 с | Artificial Analysis Speech to Speech Index, 23 июня 2026 года |
| Среднее время до первого аудио, Gemini 3.1 Flash Live Preview (High) | 2,98 с | Artificial Analysis Speech to Speech Index, 23 июня 2026 года |
Примечание о выбросах: цифры OpenAI - это заявление при запуске из анонса модели, а не независимое измерение, и они используют иную метрику, чем строки рейтинга в той же таблице, поэтому сравнивать их напрямую не следует. Moshi быстра, но не является моделью для контакт-центров: она перехватывает слово в 98,5% синтетических случаев паузы, то есть вступает, когда пользователь лишь сделал паузу (Full-Duplex-Bench).
7. Что задержка делает со звонящими и разговорами
Скорость - не метрика тщеславия. В контролируемом исследовании прослушивания с 450 слушателями одинаковые фрагменты разговора, смонтированные так, чтобы средняя пауза составляла 55,68 мс, оценивались как более связные, чем те же фрагменты с паузой 557,14 мс, при связности F(2; 2 344,3) = 28,51, P < 0,001 (Templeton и др., PNAS 2022). Слушатели читают тайминг как социальный сигнал, а медленный агент посылает неверный.
Что касается именно ИИ-агентов, исследование виртуальных агентов с участием 54 человек показало, что любой уровень задержки ухудшал воспринимаемую скорость, а авторы заключают, что задержка свыше 4 секунд ухудшает качество восприятия; естественные произносимые вставки улучшали воспринимаемую скорость ответа при 4,0 с и 6,5 с, а искусственный значок загрузки со звуком - нет (Maslych и др., ACM CUI 2025). Тишина также меняет смысл: исследования разговорной речи связывают паузы от 700 мс с непредпочтительными ответами (такими, как отказ или несогласие), поэтому агент с паузой в 1 секунду рискует прозвучать нерешительно, даже когда ответ положительный. Сравнение аудио-фундаментальных моделей показало, что тишина составляла 32,4% времени разговора при каскадной системе против 11,8% у Moshi (Arora и др., Talking Turns, arXiv 2503.01174).
| Показатель | Значение | Источник |
|---|---|---|
| Пользователи, выбравшие агента с низкой задержкой (1,5 с) как самого понравившегося | 57,41%, χ²(2, N = 54) = 14,12, p < 0,0001 | Maslych и др., ACM CUI 2025 |
| Пользователи, выбравшие агента с высокой задержкой (6,5 с) как наименее понравившегося | 61,11%, χ²(2, N = 54) = 19,0, p < 0,0001 | Maslych и др., ACM CUI 2025 |
| Измеренное время ответа собственного каскадного агента исследования до добавленной задержки | 1,47 с в среднем | Maslych и др., ACM CUI 2025 |
| Длина паузы, связанная с непредпочтительными (отрицательными) ответами в человеческом разговоре | от 700 мс | Levinson и Torreira, Frontiers in Psychology 2015 (обзор) |
| Доля времени разговора в тишине, каскадная система и Moshi | 32,4% и 11,8% | Arora и др., Talking Turns, arXiv 2025 |
| Добавленная задержка передачи, при которой собеседников оценивали как менее внимательных, дружелюбных и самодисциплинированных, чем без задержки | 1,2 с | Schoenenberg, Raake и Koeppe, International Journal of Human-Computer Studies 2014 |
| Разработчики голосового ИИ, очень довольные качеством разговора (опрос 40 человек) | 2% | Deepgram, Introducing Flux 2025 (опрос поставщика) |
| Разработчики голосового ИИ, сообщающие о заметных или серьёзных проблемах с течением разговора (опрос 40 человек) | 61% | Deepgram, Introducing Flux 2025 (опрос поставщика) |
Примечание к контексту: вывод о задержке 1,2 с взят из собственного резюме исследования, сделанного ведущим автором (phys.org, май 2014 года); самые свежие доступные данные: Schoenenberg и др., 2014. Мы не нашли рецензируемого набора данных за 2025 или 2026 год, который связывал бы измеренную задержку агента с реальной долей прерванных звонков, поэтому приведённые выше свидетельства удовлетворённости получены из контролируемых исследований, а не из журналов звонков в рабочей эксплуатации.
Итоги: задержка голосовых ИИ-агентов в цифрах
| Показатель | Значение | Источник |
|---|---|---|
| Средняя пауза между вопросом и ответом, 10 языков | 208 мс | Stivers и др., PNAS 2009 |
| Переходы между репликами короче 500 мс | от 70% до 82% | Heldner и Edlund 2010, через Frontiers in Psychology 2015 |
| Время, чтобы начать произносить одно слово | Около 600 мс | Levinson и Torreira, Frontiers in Psychology 2015 |
| Средняя пауза во фрагментах, оценённых как более связные, и в тех же фрагментах, оценённых как менее связные | 55,68 мс и 557,14 мс | Templeton и др., PNAS 2022 |
| Максимальная односторонняя задержка для планирования сетей | 400 мс | ITU-T G.114 (05/2003) |
| Каскадный агент, цель «от рта до уха» и верхний предел | 1 115 мс и 1 400 мс | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Итог эталонной разбивки «голос в голос» | 1 293 мс | руководство Voice AI and Voice Agents, Pipecat 2026 |
| Среднее время до первого аудио исследовательского телекоммуникационного конвейера | 678 мс | Ethiraj и др., NetoAI, arXiv 2025 |
| Заявление об определении конца реплики у Flux | Около 260 мс | документация Deepgram Flux 2025 (заявление поставщика) |
| Доля ложных прерываний, старая и новая модель конца реплики, 14 языков | 18,66% и 11,34% | LiveKit, 12 декабря 2025 года |
| Измеренная потоковая задержка ElevenLabs Flash v2.5 | 197 мс | Vapi Humanness Index, июнь 2026 года |
| Среднее время аудиоответа GPT-4o | 320 мс | OpenAI, Hello GPT-4o 2024 (заявление поставщика) |
| Практическая задержка Moshi | 200 мс | Kyutai, статья о Moshi, arXiv 2024 |
| Задержка перехвата реплики, Gemini Live | 1,301 с | Lin и др., Full-Duplex-Bench, arXiv 2025 |
| Диапазон среднего времени до первого аудио по индексу | от 0,44 с до 2,98 с | Artificial Analysis Speech to Speech Index, 23 июня 2026 года |
| Пользователи, которым меньше всего понравился агент с задержкой 6,5 с | 61,11% | Maslych и др., ACM CUI 2025 |
| Измеренное время ответа исследовательского каскадного агента до добавленной задержки | 1,47 с | Maslych и др., ACM CUI 2025 |
| Доля тишины во времени разговора, каскадная система | 32,4% | Arora и др., Talking Turns, arXiv 2025 |
Методология и источники
- Stivers и др., Universals and cultural variation in turn-taking in conversation, PNAS 2009.
- Levinson и Torreira, Timing in turn-taking and its implications for processing models of language, Frontiers in Psychology 2015 (также источник цифр Heldner и Edlund 2010 и Indefrey и Levelt 2004, которые в ней обобщаются).
- Templeton и др., Fast response times signal social connection in conversation, PNAS 2022.
- ITU-T, Recommendation G.114: One-way transmission time, май 2003 года, действует.
- Twilio, A Guide to Core Latency in AI Voice Agents (Cascaded Edition), 17 ноября 2025 года.
- Pipecat, Voice AI and Voice Agents guide, ведущий автор Kwindla Hultman Kramer, обновление июня 2026 года.
- Ethiraj и др., NetoAI, Toward Low-Latency End-to-End Voice Agents for Telecommunications, arXiv, 5 августа 2025 года.
- Choudhary и Purwar, Sprinklr, i-LAVA: Insights on Low Latency Voice-2-Voice Architecture for Agents, arXiv, 25 сентября 2025 года.
- Deepgram, Introducing Flux: Conversational Speech Recognition, 1 октября 2025 года, и документация по быстрому старту Flux (заявления поставщика и опрос поставщика).
- LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%, 12 декабря 2025 года (бенчмарк поставщика).
- OpenAI, руководство Realtime API по определению голосовой активности и Hello GPT-4o, 2024 год (заявления поставщика).
- ElevenLabs, документация по задержке, 2026 год (заявление поставщика).
- Vapi, Humanness Index, страница ElevenLabs Flash v2.5, проверка задержки 10 июня 2026 года.
- Kyutai, Moshi: a speech-text foundation model for real-time dialogue, arXiv 2024.
- Lin и др., Full-Duplex-Bench, arXiv 2025 (версия 3, 16 августа 2025 года).
- Artificial Analysis, Announcing the Speech to Speech Index, 23 июня 2026 года, и действующий рейтинг Speech to Speech.
- Maslych и др., Mitigating Response Delays in Free-Form Conversations with LLM-powered Intelligent Virtual Agents, ACM CUI 2025.
- Arora и др., Talking Turns: Benchmarking Audio Foundation Models on Turn-Taking Dynamics, arXiv 2025.
- Schoenenberg, Raake и Koeppe, International Journal of Human-Computer Studies 2014, в изложении ведущего автора на phys.org.
- Наблюдение по данным: действующий рейтинг меняется между обновлениями; 27 октября 2026 года в нём GPT-Realtime-2 (High) значился с 1,14 с до первого аудио против 2,33 с в анонсе от 23 июня 2026 года, а его определение (секунды до генерации первого аудиотокена на наборе Big Bench Audio) отличается от паузы между репликами «от рта до уха» и от задержки перехвата реплики в Full-Duplex-Bench, поэтому значения следует сравнивать внутри одного источника, а не между источниками. Таблица в руководстве Pipecat в сумме даёт 1 293 мс, тогда как в его тексте сказано около 1 200 мс. Целевые значения по компонентам из руководства по каскадным агентам из раздела 3 (825 мс в сумме) не согласованы с его целью для платформы в 885 мс. Цифры вендоров (производителей распознавания речи, определения конца реплики, синтеза речи и моделей реального времени) помечены как заявления поставщика или бенчмарки, проведённые поставщиком. Исследования смены реплик 2009 и 2015 годов, редакция G.114 2003 года и исследование задержки 2014 года старше трёх лет, но остаются самыми свежими доступными данными для этих норм. Публичного рецензируемого набора данных, который связывал бы измеренную задержку агента с реальным прерыванием звонков, пока нет.
- Последнее обновление: 27 октября 2026 года. Мы обновляем этот обзор ежеквартально, и следующее обновление ожидается, когда Artificial Analysis опубликует очередное обновление своего Speech to Speech Index.