Em 10 idiomas, as pessoas respondem a uma pergunta após uma pausa média de apenas 208 ms, mas a meta inicial da Twilio para um agente de voz com IA em cascata é uma pausa de turno de 1.115 ms da boca ao ouvido, cerca de 5 vezes maior (1.115 ÷ 208 ≈ 5,4). A referência humana é rápida porque os ouvintes preveem o fim de um turno: produzir uma única palavra leva cerca de 600 ms, de modo que a resposta é planejada enquanto a outra pessoa ainda está falando (Levinson e Torreira, Frontiers in Psychology 2015). Os agentes de voz não conseguem prever da mesma forma, então esperam, transcrevem, pensam e sintetizam em sequência, e o ranking independente mais recente mostra um tempo médio até o primeiro áudio, nos modelos de fala para fala, de 0,44 s a 2,98 s (Artificial Analysis Speech to Speech Index 2026). Para centrais de atendimento que estão implantando automação, tema das nossas estatísticas de automação de centrais de atendimento com agentes de voz, a latência é a parte da experiência que quem liga sente antes de ouvir uma única palavra útil. Reunimos dados dos estudos de alternância de turnos do PNAS, da norma internacional de atraso em telefonia, de guias de engenharia de código aberto e de fornecedores, de rankings independentes e de benchmarks de pesquisa publicados no arXiv e na ACM CUI.
TL;DR
- Pausa média antes de uma resposta em 10 idiomas: 208 ms; mediana de 100 ms (Stivers et al., PNAS 2009)
- De 70% a 82% das transições de turno em uma conversa duram menos de 500 ms (Heldner e Edlund 2010, analisado na Frontiers in Psychology 2015)
- A ITU-T G.114 define 400 ms como o teto de atraso unidirecional no planejamento de redes, com menos de 150 ms essencialmente transparente (ITU-T G.114, 2003)
- Um agente de voz de pesquisa para telecomunicações levou em média 678 ms até o primeiro áudio em 500 perguntas gravadas (Ethiraj et al., NetoAI, arXiv 2025)
- Trechos de conversa idênticos pareceram mais conectados com uma pausa média de 55,68 ms do que com 557,14 ms (Templeton et al., PNAS 2022)
- A Deepgram afirma ter cerca de 260 ms na detecção de fim de turno com seu modelo Flux (documentação do Deepgram Flux 2025, alegação do fornecedor)
- O modelo atualizado de fim de turno da LiveKit reduziu as interrupções falsas de 18,66% para 11,34% em 14 idiomas (LiveKit, 12 de dezembro de 2025)
- O ElevenLabs Flash v2.5 foi medido com 197 ms de latência mediana incluindo a rede, contra uma alegação de 75 ms de inferência (Vapi Humanness Index, junho de 2026)
- A OpenAI informou que as respostas em áudio do GPT-4o levam em média 320 ms, contra 5,4 s do pipeline de voz anterior baseado no GPT-4 (OpenAI, Hello GPT-4o 2024, alegação do fornecedor)
- O Gemini Live levou 1,301 s para assumir o turno, contra 0,265 s do Moshi no Full-Duplex-Bench (Lin et al., arXiv 2025)
- Os usuários escolheram o agente de alta latência como o que menos gostaram em 61,11% das vezes (Maslych et al., ACM CUI 2025)
1. A Referência Humana: Com Que Rapidez as Pessoas Alternam os Turnos
O parâmetro pelo qual todo agente de voz é julgado foi definido muito antes de existir software. Na maior comparação entre idiomas sobre o tempo dos turnos, a pausa mais comum entre uma pergunta e sua resposta foi de 0 ms, e a mediana entre idiomas foi de 100 ms (Stivers et al., Universals and cultural variation in turn-taking in conversation, PNAS 2009). Os falantes não esperam o silêncio para depois reagir; eles disparam a resposta no momento em que a pergunta termina.
Essa velocidade é uma proeza de planejamento, não um reflexo. Experimentos de nomeação de figuras estimam o tempo para produzir uma palavra em cerca de 600 ms e o de uma frase curta em cerca de 1.500 ms, e por isso os pesquisadores concluem que os ouvintes precisam prever quando um turno vai terminar e preparar a resposta em paralelo (Levinson e Torreira, Frontiers in Psychology 2015). Um agente de voz em cascata faz o oposto: espera quem liga parar de falar e só então inicia toda a cadeia.
| Métrica | Valor | Fonte |
|---|---|---|
| Pausa média entre pergunta e resposta, nos 10 idiomas combinados | 208 ms | Stivers et al., PNAS 2009 |
| Pausa mediana entre pergunta e resposta, nos 10 idiomas combinados | 100 ms | Stivers et al., PNAS 2009 |
| Médias do idioma mais rápido e do mais lento (japonês vs dinamarquês) | 7 ms vs 469 ms | Stivers et al., PNAS 2009 |
| Proporção de transições de turno com menos de 500 ms | 70% a 82% | Heldner e Edlund 2010, analisado em Levinson e Torreira, Frontiers in Psychology 2015 |
| Proporção de transferências de turno que se sobrepõem ao falante anterior (corpus telefônico Switchboard, 348 conversas) | 30,1% | Levinson e Torreira, Frontiers in Psychology 2015 |
| Tempo necessário para começar a dizer uma única palavra nomeada (nomeação de figuras) | Cerca de 600 ms | Indefrey e Levelt 2004, analisado em Levinson e Torreira, Frontiers in Psychology 2015 |
| Tempo de resposta humano típico (modal) entre turnos | Cerca de 200 ms | Templeton et al., PNAS 2022 |
Nota de contexto: a amostra de 10 idiomas abrange 101 conversas em 5 continentes. O artigo afirma que as médias por idioma ficam a cerca de 250 ms, para mais ou para menos, da média entre idiomas, embora o dinamarquês esteja cerca de 261 ms acima dela (469 menos 208). Dados mais recentes disponíveis: os estudos de 2009 e 2015 citados acima. Essas referências mudam devagar, então a idade delas importa menos do que no caso de benchmarks de produtos.
2. Limites de Atraso em Redes e Telefonia
Antes de qualquer modelo rodar, a rede telefônica já consome parte do orçamento. “Atraso unidirecional” aqui significa o tempo que o som leva para ir da boca de quem fala ao ouvido de quem escuta, em um só sentido, e não um tempo de ida e volta. A Recomendação ITU-T G.114 diz que um atraso unidirecional de 400 ms não deve ser excedido no planejamento geral de redes e que atrasos mantidos abaixo de 150 ms são essencialmente transparentes para a maioria das aplicações (ITU-T G.114, One-way transmission time).
A era dos agentes de voz vira esses limites de cabeça para baixo. A norma foi escrita para chamadas entre pessoas, em que o outro lado responde em cerca de 200 ms; um agente que precisa de um segundo para pensar usa mais do que o dobro de toda a folga de 400 ms da rede antes de dizer uma palavra. Os números da própria Twilio mostram a divisão: a meta para a pausa de turno completa, da boca ao ouvido, é de 1.115 ms e a meta dentro da plataforma do agente é de 885 ms, o que implica cerca de 230 ms de trânsito pela rede e pela linha telefônica (1.115 menos 885).
| Métrica | Valor | Fonte |
|---|---|---|
| Atraso unidirecional máximo recomendado para o planejamento geral de redes | 400 ms | ITU-T G.114 (05/2003) |
| Atraso unidirecional abaixo do qual a maioria das aplicações de fala e de não fala parece essencialmente transparente | 150 ms | ITU-T G.114 (05/2003) |
| Atraso VoIP esperado da boca ao ouvido em rotas intrarregionais de até 5.000 km | Abaixo de 150 ms | ITU-T G.114, Apêndice II |
| Atraso VoIP da boca ao ouvido em rotas terrestres inter-regionais de pior caso (27.500 km) | Um pouco mais de 300 ms | ITU-T G.114, Apêndice II |
| Ida e volta pela internet pública até um servidor de síntese de fala, conforme a distância | 20 a 200 ms | documentação de latência da ElevenLabs 2026 (fornecedor) |
Nota de contexto: a edição de maio de 2003 ainda consta como em vigor. Atrasos abaixo de 400 ms são avaliados com o modelo E da Recomendação G.107, uma fórmula que estima a qualidade conversacional a partir do atraso, e a introdução observa que tarefas altamente interativas podem ser afetadas por atrasos abaixo de 100 ms. Dados mais recentes disponíveis: a edição de 2003.
3. O Orçamento de Latência de um Agente de Voz em Cascata
Um agente em cascata encadeia três modelos: fala para texto (STT), um grande modelo de linguagem (LLM) e texto para fala (TTS). As metas por componente da Twilio somam 825 ms (350 + 375 + 100), mas seus limites superiores somam 1.500 ms (500 + 750 + 250), o que significa que uma pilha que apenas respeita cada limite ainda pode estourar o teto de 1.400 ms de ponta a ponta (Twilio, A Guide to Core Latency in AI Voice Agents). O guia chama esses valores de “referências iniciais, não de melhor da categoria”.
O detalhamento de referência do guia da Pipecat mostra para onde o tempo realmente vai: a transcrição com detecção de fim de fala (endpointing), o tempo até o primeiro byte do LLM e o tempo até o primeiro byte do TTS respondem juntos por 1.070 ms de um total de 1.293 ms, cerca de 83% (1.070 ÷ 1.293), enquanto toda a infraestrutura de áudio (microfone, codecs, buffers de jitter, alto-falante) fica com o restante (Voice AI and Voice Agents guide). Um “buffer de jitter” é uma fila de espera curta que suaviza a chegada irregular de pacotes; o detalhamento gasta 40 ms com um em cada direção. Um pipeline de pesquisa criado para perguntas de telecomunicações, em uma única GPU H100, chegou à mesma faixa (Ethiraj et al., arXiv 2508.04721).
| Métrica | Valor | Fonte |
|---|---|---|
| Latência de fala para texto, meta vs limite superior | 350 ms vs 500 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Tempo até o primeiro token do LLM, meta vs limite superior | 375 ms vs 750 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Tempo até o primeiro byte do texto para fala, meta vs limite superior | 100 ms vs 250 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Pausa de turno da boca ao ouvido como percebida por quem liga, meta vs limite superior | 1.115 ms vs 1.400 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Total de referência de voz a voz, somando 16 etapas do microfone ao alto-falante | 1.293 ms (o texto do guia diz cerca de 1.200 ms) | Voice AI and Voice Agents guide, Pipecat 2026 |
| Latência de voz a voz que o guia considera uma meta importante | 1.500 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Tempo médio até o primeiro áudio em um pipeline de telecomunicações, 500 perguntas gravadas (mínimo a máximo) | 678 ms (412 a 1.482 ms) | Ethiraj et al., NetoAI, arXiv 2025 |
| Tempo médio de processamento de ponta a ponta por enunciado no mesmo pipeline de telecomunicações | 934 ms | Ethiraj et al., NetoAI, arXiv 2025 |
Nota sobre valores atípicos: uma equipe de pesquisa da Sprinklr relatou um primeiro trecho de áudio “de apenas 640,9 ms” em uma GPU NVIDIA L4, mas de 1.748,6 ms na mesma configuração em uma CPU, um lembrete de que o hardware sozinho pode mais do que dobrar o tempo até o primeiro áudio (Choudhary e Purwar, arXiv 2509.20971).
4. Detecção de Fim de Fala e de Fim de Turno
O “endpointing” (detecção do fim da fala) é a decisão do agente de que quem liga terminou de falar. É a etapa mais ajustada manualmente, porque troca velocidade por grosseria: esperar pouco faz o agente cortar a pessoa no meio da frase, esperar demais deixa quem liga ouvindo silêncio. O modelo atualizado de fim de turno da LiveKit reduziu a taxa de interrupções falsas em 14 idiomas de 18,66% para 11,34%, uma redução relativa de 39,23%, sem aumento na latência de resposta (LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%).
Os números dos fornecedores mostram quanto do orçamento essa única decisão controla. A Deepgram afirma que seu modelo Flux pode reduzir a latência de resposta do agente em 200 a 600 ms em comparação com abordagens em pipeline, e que um sinal antecipado (“eager”) chega 150 a 250 ms mais cedo ao custo de 50 a 70% mais chamadas ao LLM (Deepgram, Introducing Flux). Essas chamadas extras são o preço oculto da velocidade: o agente começa a redigir respostas para frases que quem liga talvez nem tenha terminado. O ruído de fundo também altera essas decisões, assunto que acompanhamos nas estatísticas de latência da supressão neural de ruído.
| Métrica | Valor | Fonte |
|---|---|---|
| Latência de detecção de fim de turno alegada para o Flux | Cerca de 260 ms | documentação do Deepgram Flux 2025 (alegação do fornecedor) |
| Latência de fim de turno do Flux nos percentis 90 e 95 | 1 s e 1,5 s | Deepgram, Introducing Flux, 1 de outubro de 2025 (alegação do fornecedor) |
| Redução de interrupções falsas alegada para o Flux | Cerca de 30% | Deepgram, Introducing Flux 2025 (alegação do fornecedor) |
| Taxa de interrupções falsas, todos os 14 idiomas, modelo antigo vs novo da LiveKit (com taxa de verdadeiros positivos fixa de 99,3%) | 18,66% vs 11,34% | LiveKit, 12 de dezembro de 2025 |
| Taxa de interrupções falsas, inglês, modelo antigo vs novo da LiveKit | 16,6% vs 13,0% | LiveKit, 12 de dezembro de 2025 |
| Silêncio que a configuração de VAD do servidor de exemplo espera antes de encerrar um turno | 500 ms | guia de VAD do OpenAI Realtime 2026 |
Nota de contexto: VAD (detecção de atividade de voz) é o detector simples que percebe se alguém está falando; o valor de 500 ms é a configuração de exemplo do guia de VAD do Realtime da OpenAI, não um padrão declarado. Uma regra fixa de 500 ms de silêncio já é, sozinha, mais que o dobro da pausa média humana de 208 ms da seção 1.
5. Tempo até o Primeiro Token do LLM e Tempo até o Primeiro Áudio do TTS
Quando o turno termina, o modelo precisa começar a falar. A regra prática do guia da Pipecat é que um tempo até o primeiro token do LLM de 600 ms ou menos é rápido o bastante para a maioria dos usos de voz, e apenas dois dos quatro modelos hospedados que ele lista atingem esse patamar na mediana, enquanto nenhum o atinge no percentil 95 (Voice AI and Voice Agents guide). O tempo até o primeiro token (TTFT) é quanto o modelo de linguagem leva para emitir o primeiro trecho de sua resposta. Em uma linha telefônica, a cauda importa mais que a mediana, porque quem liga se lembra do único silêncio de 1,7 s, não da média.
A síntese de fala agora é a menor fatia, mas os números dos fornecedores e os medidos divergem. A ElevenLabs diz que seus modelos Flash chegam a cerca de 75 ms de inferência do modelo, excluindo explicitamente a rede e a sobrecarga da aplicação (documentação de latência da ElevenLabs), enquanto uma execução de terceiros com 50 testes de streaming ao vivo a partir de uma máquina de benchmark mediu 197 ms de mediana (Vapi Humanness Index). Equipes que comparam motores de síntese, inclusive para um gerador de voz com IA, devem perguntar qual dos dois números a ficha técnica cita.
| Métrica | Valor | Fonte |
|---|---|---|
| Tempo até o primeiro token do GPT-4.1, mediana vs percentil 95 | 536 ms vs 1.771 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Tempo até o primeiro token do Gemini 2.5 Flash, mediana vs percentil 95 | 597 ms vs 1.137 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Tempo até o primeiro token do Claude 4.5 Haiku, mediana vs percentil 95 | 637 ms vs 1.615 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Tempo até o primeiro token do GPT-5.1, mediana vs percentil 95 | 739 ms vs 1.492 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| ElevenLabs Flash v2.5, alegação de inferência vs latência de streaming medida incluindo a rede | 75 ms vs 197 ms | documentação da ElevenLabs 2026 (alegação do fornecedor); Vapi Humanness Index, 10 de junho de 2026 |
| Cartesia Sonic 3.5, latência de streaming medida | 128 ms | Vapi Humanness Index 2026 |
| ElevenLabs Multilingual v2, latência de streaming medida | 1.006 ms | Vapi Humanness Index 2026 |
Nota de contexto: a Vapi opera uma plataforma de agentes de voz, não um motor de síntese de fala, mas seu índice continua sendo um benchmark executado pela plataforma. A página informa o método de 50 testes apenas para o Flash v2.5, de modo que os outros valores medidos podem não ser diretamente comparáveis. A ElevenLabs também observa que um buffer de 500 ms no player de áudio “é comum”, o que pode apagar do lado do cliente a maior parte da vantagem de um modelo rápido.
6. Latência Medida de Modelos de Fala para Fala e Full-Duplex
Os modelos de fala para fala pulam as passagens por texto, e os modelos full-duplex ouvem e falam ao mesmo tempo, então, em teoria, deveriam fechar a distância para o tempo humano. O Moshi, da Kyutai, informa uma latência teórica de 160 ms e de 200 ms na prática (Kyutai, Moshi, arXiv 2410.00037), e um benchmark independente o mediu assumindo o turno após 0,265 s (Lin et al., Full-Duplex-Bench, arXiv 2503.04721).
Os modelos comerciais são muito mais dispersos. No índice da Artificial Analysis de 23 de junho de 2026, o tempo médio até o primeiro áudio variou de 0,44 s a 2,98 s; as duas entradas mais lentas eram configurações de raciocínio “High”, e uma delas, o GPT-Realtime-2 (High), com 2,33 s, obteve a maior pontuação do índice, 77,2% (Artificial Analysis, Speech to Speech Index). Velocidade e inteligência ainda puxam em direções opostas. A legendagem ao vivo enfrenta um dilema parecido entre velocidade e precisão, que acompanhamos nas estatísticas de latência de legendagem em tempo real.
| Métrica | Valor | Fonte |
|---|---|---|
| Tempo de resposta do GPT-4o a uma entrada de áudio, mais rápido vs média | 232 ms vs 320 ms | OpenAI, Hello GPT-4o 2024 (alegação do fornecedor) |
| Latência média do pipeline anterior do Modo de Voz do ChatGPT, GPT-3.5 vs GPT-4 | 2,8 s vs 5,4 s | OpenAI, Hello GPT-4o 2024 (alegação do fornecedor) |
| Latência do Moshi, teórica vs prática | 160 ms vs 200 ms | Kyutai, artigo do Moshi, arXiv 2024 |
| Tempo para assumir o turno depois que o usuário para de falar (conjunto de conversas CANDOR), Moshi vs Gemini Live | 0,265 s vs 1,301 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Tempo para responder depois de uma interrupção do usuário, Moshi vs Gemini Live | 0,257 s vs 1,183 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Tempo médio até o primeiro áudio, modelo mais rápido do índice (Deepslate Opal) | 0,44 s | Artificial Analysis Speech to Speech Index, 23 de junho de 2026 |
| Tempo médio até o primeiro áudio, GPT-Realtime-1.5 | 0,82 s | Artificial Analysis Speech to Speech Index, 23 de junho de 2026 |
| Tempo médio até o primeiro áudio, Gemini 3.1 Flash Live Preview (High) | 2,98 s | Artificial Analysis Speech to Speech Index, 23 de junho de 2026 |
Nota sobre valores atípicos: os números da OpenAI são uma alegação de lançamento, vinda do anúncio do modelo, e não uma medição independente, e usam uma métrica diferente das linhas do ranking na mesma tabela, portanto os dois grupos não devem ser comparados diretamente. O Moshi é rápido, mas não é um modelo para centrais de atendimento: ele toma a palavra em 98,5% dos casos de pausa sintética, ou seja, entra na conversa quando o usuário apenas fez uma pausa (Full-Duplex-Bench).
7. O Que a Latência Faz com Quem Liga e com as Conversas
Velocidade não é uma métrica de vaidade. Em um estudo controlado de escuta com 450 ouvintes, trechos de conversa idênticos editados para ter uma pausa média de 55,68 ms foram avaliados como mais conectados do que os mesmos trechos com 557,14 ms, com conexão F(2; 2.344,3) = 28,51, P < 0,001 (Templeton et al., PNAS 2022). Os ouvintes leem o tempo como um sinal social, e um agente lento envia o sinal errado.
Para agentes de IA especificamente, um estudo com 54 pessoas sobre agentes virtuais constatou que todos os níveis de atraso prejudicaram a velocidade percebida, e os autores concluem que latência acima de 4 segundos degrada a qualidade da experiência; preenchimentos falados naturais melhoraram a velocidade de resposta percebida em 4,0 s e 6,5 s, enquanto um ícone de carregamento e um som artificiais não (Maslych et al., ACM CUI 2025). O silêncio também muda o significado: a pesquisa sobre conversação associa pausas de 700 ms ou mais a respostas não preferidas (respostas como recusar ou discordar), então um agente com uma pausa de 1 segundo corre o risco de soar hesitante mesmo quando a resposta é sim. Uma comparação de modelos de base de áudio constatou que o silêncio representava 32,4% do tempo da conversa em um sistema em cascata, contra 11,8% no Moshi (Arora et al., Talking Turns, arXiv 2503.01174).
| Métrica | Valor | Fonte |
|---|---|---|
| Usuários que escolheram o agente de baixa latência (1,5 s) como o que mais gostaram | 57,41%, χ²(2, N = 54) = 14,12, p < 0,0001 | Maslych et al., ACM CUI 2025 |
| Usuários que escolheram o agente de alta latência (6,5 s) como o que menos gostaram | 61,11%, χ²(2, N = 54) = 19,0, p < 0,0001 | Maslych et al., ACM CUI 2025 |
| Tempo de resposta medido do agente em cascata do próprio estudo antes do atraso adicionado | 1,47 s em média | Maslych et al., ACM CUI 2025 |
| Duração da pausa associada a respostas não preferidas (negativas) em conversas humanas | 700 ms ou mais | Levinson e Torreira, Frontiers in Psychology 2015 (revisão) |
| Proporção do tempo de conversa em silêncio, sistema em cascata vs Moshi | 32,4% vs 11,8% | Arora et al., Talking Turns, arXiv 2025 |
| Atraso de transmissão adicional a partir do qual os interlocutores foram avaliados como menos atentos, simpáticos e autodisciplinados do que sem atraso | 1,2 s | Schoenenberg, Raake e Koeppe, International Journal of Human-Computer Studies 2014 |
| Desenvolvedores de IA de voz muito satisfeitos com a qualidade da conversa (pesquisa com 40) | 2% | Deepgram, Introducing Flux 2025 (pesquisa do fornecedor) |
| Desenvolvedores de IA de voz que relatam problemas de fluxo de conversa perceptíveis a graves (pesquisa com 40) | 61% | Deepgram, Introducing Flux 2025 (pesquisa do fornecedor) |
Nota de contexto: a constatação do atraso de 1,2 s vem do resumo do próprio autor principal sobre o estudo (phys.org, maio de 2014); dados mais recentes disponíveis: Schoenenberg et al., 2014. Não encontramos nenhum conjunto de dados revisado por pares de 2025 ou 2026 que relacione a latência medida de agentes às taxas reais de abandono de chamadas, de modo que as evidências de satisfação acima vêm de estudos controlados, e não de registros de chamadas em produção.
Resumo: Latência de Agentes de Voz com IA em Números
| Métrica | Valor | Fonte |
|---|---|---|
| Pausa média entre pergunta e resposta, 10 idiomas | 208 ms | Stivers et al., PNAS 2009 |
| Transições de turno com menos de 500 ms | 70% a 82% | Heldner e Edlund 2010, via Frontiers in Psychology 2015 |
| Tempo para começar a dizer uma única palavra | Cerca de 600 ms | Levinson e Torreira, Frontiers in Psychology 2015 |
| Pausa média em trechos avaliados como mais conectados vs os mesmos trechos avaliados como menos conectados | 55,68 ms vs 557,14 ms | Templeton et al., PNAS 2022 |
| Atraso unidirecional máximo para planejamento de redes | 400 ms | ITU-T G.114 (05/2003) |
| Agente em cascata, meta da boca ao ouvido vs limite superior | 1.115 ms vs 1.400 ms | Twilio, Guide to Core Latency in AI Voice Agents 2025 |
| Total do detalhamento de referência de voz a voz | 1.293 ms | Voice AI and Voice Agents guide, Pipecat 2026 |
| Tempo médio até o primeiro áudio do pipeline de pesquisa para telecomunicações | 678 ms | Ethiraj et al., NetoAI, arXiv 2025 |
| Alegação de detecção de fim de turno do Flux | Cerca de 260 ms | documentação do Deepgram Flux 2025 (alegação do fornecedor) |
| Taxa de interrupções falsas, modelo antigo vs novo de fim de turno, 14 idiomas | 18,66% vs 11,34% | LiveKit, 12 de dezembro de 2025 |
| Latência de streaming medida do ElevenLabs Flash v2.5 | 197 ms | Vapi Humanness Index, junho de 2026 |
| Tempo médio de resposta em áudio do GPT-4o | 320 ms | OpenAI, Hello GPT-4o 2024 (alegação do fornecedor) |
| Latência prática do Moshi | 200 ms | Kyutai, artigo do Moshi, arXiv 2024 |
| Latência de alternância de turnos, Gemini Live | 1,301 s | Lin et al., Full-Duplex-Bench, arXiv 2025 |
| Faixa do tempo médio até o primeiro áudio no índice | 0,44 s a 2,98 s | Artificial Analysis Speech to Speech Index, 23 de junho de 2026 |
| Usuários que menos gostaram do agente de 6,5 s | 61,11% | Maslych et al., ACM CUI 2025 |
| Tempo de resposta medido de um agente em cascata de pesquisa antes do atraso adicionado | 1,47 s | Maslych et al., ACM CUI 2025 |
| Proporção de silêncio no tempo de conversa, sistema em cascata | 32,4% | Arora et al., Talking Turns, arXiv 2025 |
Metodologia e Fontes
- Stivers et al., Universals and cultural variation in turn-taking in conversation, PNAS 2009.
- Levinson e Torreira, Timing in turn-taking and its implications for processing models of language, Frontiers in Psychology 2015 (também a fonte dos números de Heldner e Edlund 2010 e de Indefrey e Levelt 2004 que ele analisa).
- Templeton et al., Fast response times signal social connection in conversation, PNAS 2022.
- ITU-T, Recommendation G.114: One-way transmission time, maio de 2003, em vigor.
- Twilio, A Guide to Core Latency in AI Voice Agents (Cascaded Edition), 17 de novembro de 2025.
- Pipecat, Voice AI and Voice Agents guide, autor principal Kwindla Hultman Kramer, atualização de junho de 2026.
- Ethiraj et al., NetoAI, Toward Low-Latency End-to-End Voice Agents for Telecommunications, arXiv, 5 de agosto de 2025.
- Choudhary e Purwar, Sprinklr, i-LAVA: Insights on Low Latency Voice-2-Voice Architecture for Agents, arXiv, 25 de setembro de 2025.
- Deepgram, Introducing Flux: Conversational Speech Recognition, 1 de outubro de 2025, e documentação de início rápido do Flux (alegações do fornecedor e uma pesquisa do fornecedor).
- LiveKit, Improved end-of-turn model cuts voice AI interruptions 39%, 12 de dezembro de 2025 (benchmark do fornecedor).
- OpenAI, guia de detecção de atividade de voz da Realtime API e Hello GPT-4o, 2024 (alegações do fornecedor).
- ElevenLabs, documentação de latência, 2026 (alegação do fornecedor).
- Vapi, Humanness Index, página do ElevenLabs Flash v2.5, verificação de latência em 10 de junho de 2026.
- Kyutai, Moshi: a speech-text foundation model for real-time dialogue, arXiv 2024.
- Lin et al., Full-Duplex-Bench, arXiv 2025 (versão 3, 16 de agosto de 2025).
- Artificial Analysis, Announcing the Speech to Speech Index, 23 de junho de 2026, e o ranking Speech to Speech atualizado em tempo real.
- Maslych et al., Mitigating Response Delays in Free-Form Conversations with LLM-powered Intelligent Virtual Agents, ACM CUI 2025.
- Arora et al., Talking Turns: Benchmarking Audio Foundation Models on Turn-Taking Dynamics, arXiv 2025.
- Schoenenberg, Raake e Koeppe, International Journal of Human-Computer Studies 2014, conforme resumido pelo autor principal no phys.org.
- Nota sobre os dados: o ranking ao vivo muda entre as atualizações; em 27 de outubro de 2026 ele listava o GPT-Realtime-2 (High) com 1,14 s até o primeiro áudio, contra 2,33 s no anúncio de 23 de junho de 2026, e sua definição (segundos para gerar o primeiro token de áudio no conjunto Big Bench Audio) difere da pausa de turno da boca ao ouvido e da latência de alternância de turnos do Full-Duplex-Bench, portanto compare valores dentro de uma mesma fonte, não entre fontes. A tabela do guia da Pipecat soma 1.293 ms, enquanto o texto diz cerca de 1.200 ms. As metas por componente do guia de agentes em cascata da seção 3 (825 ms no total) não são reconciliadas com a meta de 885 ms da plataforma. Os números de fornecedores (fabricantes de reconhecimento de fala, detecção de turno, síntese de fala e modelos em tempo real) estão identificados como alegações do fornecedor ou benchmarks executados pelo fornecedor. Os estudos de alternância de turnos de 2009 e 2015, a edição de 2003 da G.114 e o estudo de atraso de 2014 têm mais de três anos, mas continuam sendo os dados mais recentes disponíveis para essas referências. Nenhum conjunto de dados público e revisado por pares relaciona ainda a latência medida de agentes ao abandono real de chamadas.
- Última atualização: 27 de outubro de 2026. Atualizamos este levantamento trimestralmente, e a próxima revisão é esperada quando a Artificial Analysis publicar a próxima atualização de seu Speech to Speech Index.