Десяти минут транскрибированной речи хватило, чтобы wav2vec 2.0 достиг доли ошибочных слов 4,8% на наборе test-clean из LibriSpeech (Meta AI, wav2vec 2.0, NeurIPS 2020) после того, как модель сначала обучилась на «сыром» аудио без человеческих транскриптов, этот подход называется самоконтролируемым обучением. На скрытом тестовом наборе конкурса SUPERB @ SLT 2022 WavLM-large набрал 1242 по шкале, где передовой результат октября 2021 года равен 1000 (Feng и др., SUPERB @ SLT 2022), однако лишь около половины из 33 протестированных моделей превосходят классический базовый вариант во всех задачах (Yang и др., IEEE/ACM TASLP 2024). Старые контрольные точки остаются в ежедневном использовании: facebook/wav2vec2-base-960h показал 1 737 874 загрузки за последний месяц (Hugging Face, 31 октября 2026 года). Мы свели данные из статей о бенчмарках SUPERB, SUPERB-SG и ML-SUPERB, отчёта о конкурсе SUPERB @ SLT 2022, статей о моделях wav2vec 2.0, WavLM и XEUS и живых счётчиков загрузок Hugging Face. О том, что эти низкие показатели ошибок оставляют за кадром, рассказывает наш обзор частоты галлюцинаций при распознавании речи.
Замечание о том, как читать каждую цифру ниже: оценки SUPERB в основном относятся к 2021-2024 годам, потому что рекорд фиксируют статьи о бенчмарках, а живая таблица лидеров для этого обновления оказалась недоступна (см. примечание по данным). Для показателей ошибок лучше меньшее значение; для точности и оценок SUPERB лучше большее.
Кратко (TL;DR)
- wav2vec 2.0 Large показал 4,8% / 8,2% WER при 10 минутах разметки против 16,3% / 25,2% у предыдущего лучшего метода (Meta AI, wav2vec 2.0, NeurIPS 2020).
- wav2vec-U достиг 5,9% WER на test-other вообще без транскрибированной речи (Meta AI, wav2vec-U 2021).
- Таблица передового уровня в обзоре IEEE приводит 1,4% / 2,6% WER на LibriSpeech с самоконтролируемым предобучением против 2,1% / 4,0% без него (Mohamed и др., IEEE JSTSP 2022).
- HuBERT Large снизил долю ошибок в фонемах до 3,53% с 82,01% у базового варианта FBANK (Yang и др., SUPERB, Interspeech 2021).
- Распознавание эмоций остаётся низким потолком: впереди XEUS с точностью 71,08% (Chen и др., XEUS, EMNLP 2024).
- BLEU перевода речи вырос с 2,32 у FBANK до 20,01 у HuBERT Large (Tsai и др., SUPERB-SG, ACL 2022).
- Около половины из 33 моделей превосходят FBANK во всех 15 задачах (Yang и др., IEEE/ACM TASLP 2024).
- WavLM Base+ набрал 73,4 в общей оценке при 94,70M параметров, выше, чем HuBERT Large с 72,2 при 316,61M (Microsoft, WavLM, IEEE JSTSP 2022).
- Крупнейшая модель конкурса, с 619,82M параметров, набрала 848 против 1242 у WavLM-large с 315,45M (Feng и др., SUPERB @ SLT 2022).
- На 10-минутном наборе ML-SUPERB wav2vec2-large набрал 598,3, а меньший wav2vec2-base - 755,2 (Shi и др., ML-SUPERB, Interspeech 2023).
- DistilHuBERT делает HuBERT на 75% меньше и на 73% быстрее (Chang и др., ICASSP 2022).
- microsoft/wavlm-large показал 1 068 711 загрузок за последний месяц (Hugging Face, 31 октября 2026 года).
1. Размеченные данные: от 960 часов до 10 минут
Доля ошибочных слов (WER) - это доля слов, в которых система ошибается, а «разметка» здесь означает человеческие транскрипты. У LibriSpeech есть два стандартных тестовых набора: test-clean и более сложный test-other. Переход от 960 часов разметки к 10 минутам поднял WER wav2vec 2.0 на test-other с 3,3% до 8,2%. Поскольку 960 часов - это 57 600 минут, транскрибированного аудио становится в 5 760 раз меньше (57 600 / 10), а доля ошибок вырастает примерно в 2,5 раза (8,2 / 3,3).
Узкое место сместилось. Раньше транскрибирование задавало нижнюю границу качества; после wav2vec 2.0 дефицитным ресурсом стали неразмеченное аудио и время GPU. Его 8,2% на test-other также примерно на 67% ниже 25,2% предыдущего лучшего метода ((25,2 - 8,2) / 25,2), а обзор IEEE называет его первой моделью, достигшей однозначного WER на LibriSpeech с использованием лишь малоресурсных подмножеств Libri-light.
| Показатель | Значение | Источник |
|---|---|---|
| WER при 10 минутах разметки, wav2vec 2.0 Large против предыдущего лучшего Discrete BERT (test-clean / test-other) | 4,8% / 8,2% против 16,3% / 25,2% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| WER при 10 минутах разметки, HuBERT X-Large (test-clean / test-other) | 4,6% / 6,8% | Meta AI, HuBERT, IEEE/ACM TASLP 2021 |
| WER на test-other при 1 часе разметки, wav2vec 2.0 Large против WavLM Large | 5,8% против 5,1% | Microsoft, WavLM, IEEE JSTSP 2022 |
| WER при 10 часах разметки, HuBERT Large и WavLM Large (оба test-clean / test-other) | 2,4% / 4,6% | Microsoft, WavLM, IEEE JSTSP 2022 |
| WER при всех 960 часах разметки LibriSpeech, wav2vec 2.0 Large (test-clean / test-other) | 1,8% / 3,3% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| WER на test-other вообще без транскрибированной речи, wav2vec-U | 5,9% | Meta AI, wav2vec-U 2021 |
| WER на LibriSpeech в таблице передового уровня обзора, без самоконтролируемого предобучения против с ним (test-clean / test-other) | 2,1% / 4,0% против 1,4% / 2,6% | Mohamed и др., IEEE JSTSP 2022 |
Сравнение не вполне равнозначное. Discrete BERT использовал 4-граммную языковую модель, а строки wav2vec 2.0, HuBERT и WavLM выше при декодировании используют языковую модель на основе Transformer. Самоконтролируемый результат в последней строке сочетает модель Conformer XXL с самообучением по схеме Noisy Student. Самые свежие доступные данные: статьи Meta AI и Microsoft, 2020-2022 годы.
2. Контентные задачи SUPERB: распознать, что было сказано
SUPERB начинался с 10 задач и одного строгого правила: предобученная модель остаётся замороженной, обучается лишь небольшая «голова» задачи. Базовый вариант - FBANK, классические банки фильтров для аудио без какого-либо предобучения. HuBERT Large снизил долю ошибок в фонемах с 82,01% до 3,53%. Доля ошибок в фонемах - та же идея, что и WER, только счёт идёт по звукам речи, а не по словам.
Заметные разрывы кое в чём преувеличивают картину. В статье отмечено, что FBANK не может работать в задачах, ограниченных линейной «головой», чем объясняются оценки вплоть до 8,63% при обнаружении ключевых слов. С нелинейной «головой» в ASR FBANK достаточно конкурентоспособен, чтобы его 23,18% были более честной нижней границей. Поиск по образцу, который находит произнесённый термин по образцу аудио и оценивается по максимальному взвешенному значению термина (MTWV), даёт самые низкие абсолютные числа в группе: лучшая оценка в исходной статье составила 0,0736.
| Показатель | Значение | Источник |
|---|---|---|
| Доля ошибок в фонемах на LibriSpeech, базовый вариант FBANK против HuBERT Large | 82,01% против 3,53% | Yang и др., SUPERB, Interspeech 2021 |
| Точность обнаружения ключевых слов на Speech Commands, FBANK против wav2vec 2.0 Large | 8,63% против 96,66% | Yang и др., SUPERB, Interspeech 2021 |
| WER автоматического распознавания речи без языковой модели, FBANK против HuBERT Large | 23,18% против 3,62% | Yang и др., SUPERB, Interspeech 2021 |
| Оценка MTWV поиска по образцу, FBANK против HuBERT Base | 0,0058 против 0,0736 | Yang и др., SUPERB, Interspeech 2021 |
| WER автоматического распознавания речи на SUPERB, WavLM Large против XEUS | 3,44% против 3,34% | Chen и др., XEUS, EMNLP 2024 |
| Точность обнаружения ключевых слов на SUPERB, WavLM Large против XEUS | 97,86% против 98,32% | Chen и др., XEUS, EMNLP 2024 |
Самые свежие англоязычные цифры SUPERB здесь взяты из XEUS, и разрывы стали тонкими: 0,10 процентного пункта в ASR. Это семейство задач выглядит близким к насыщению.
3. Задачи о дикторе, намерении и эмоции
Задачи о дикторе спрашивают, кто говорит, а не что сказано, поэтому проверяют, сохранило ли представление больше, чем слова. Идентификация диктора выросла от практически нуля у FBANK до 90,33% у HuBERT Large. Дообученный WavLM Large достиг коэффициента равных ошибок 0,383% на VoxCeleb1-O против 1,010% у эталонной системы ECAPA-TDNN. Коэффициент равных ошибок (EER) - это рабочая точка, в которой ложные приёмы равны ложным отказам, поэтому чем меньше, тем лучше.
Эмоции - исключение. Точность распознавания эмоций по четырём классам на IEMOCAP почти не изменилась между WavLM Large и XEUS, и даже лучший результат оставляет почти 3 клипа из 10 неверными. Практические пределы разобраны в нашей статистике точности распознавания эмоций в речи. Строки о диаризации используют разные наборы данных, поэтому прежде чем их сравнивать, посмотрите наш обзор доли ошибок диаризации дикторов. Доля ошибок диаризации (DER) показывает, сколько времени аудио приходится на неверный ответ о том, «кто и когда говорил».
| Показатель | Значение | Источник |
|---|---|---|
| Точность идентификации диктора на VoxCeleb1, FBANK против HuBERT Large | 8,5E-4 против 90,33 (проценты) | Yang и др., SUPERB, Interspeech 2021 |
| Точность классификации намерений на Fluent Speech Commands, FBANK против HuBERT Large | 9,10% против 98,76% | Yang и др., SUPERB, Interspeech 2021 |
| Точность классификации намерений в таблице передового уровня обзора, без самоконтролируемого предобучения против с ним | 98,8% против 99,3% | Mohamed и др., IEEE JSTSP 2022 |
| DER диаризации дикторов на LibriMix с двумя дикторами, WavLM Large против XEUS | 3,24% против 3,11% | Chen и др., XEUS, EMNLP 2024 |
| Точность распознавания эмоций на IEMOCAP (четыре класса), WavLM Large против XEUS | 70,62% против 71,08% | Chen и др., XEUS, EMNLP 2024 |
| EER верификации диктора на VoxCeleb1-O, эталон ECAPA-TDNN против WavLM Large с дообучением с большим запасом разделения и калибровкой оценок | 1,010% против 0,383% | Microsoft, WavLM, IEEE JSTSP 2022 |
| DER диаризации на телефонных звонках CALLHOME, кластеризация EEND-EDA против WavLM Large | 11,84% против 10,35% | Microsoft, WavLM, IEEE JSTSP 2022 |
Обратите внимание на смену метода в строке о верификации диктора: этот результат получен дообучением, а не в замороженной постановке SUPERB, поэтому это не оценка таблицы лидеров. Обзор IEEE также показывает, насколько малым может быть преимущество на вершине: 0,5 процентного пункта в классификации намерений.
4. SUPERB-SG и бенчмарк из 15 задач: где самоконтроль перестаёт помогать
SUPERB-SG добавил пять более сложных задач по семантике и генерации. Самый большой скачок показывает перевод: BLEU, оценка качества перевода, вырос с 2,32 до 20,01. Преобразование голоса тоже заметно улучшается, здесь оно измеряется тем, сколько слов распознаватель ошибочно распознаёт в преобразованном аудио.
Затем выигрыш прекращается. Улучшение речи и разделение речи зависят от низкоуровневых деталей сигнала, и авторы обнаружили, что эти две задачи слабо коррелируют с остальными. wav2vec 2.0 Large по оценке качества речи PESQ на деле оказывается ниже FBANK. Журнальная версия подтверждает это в большом масштабе: модель, созданная для обобщения речи, не обязательно хороша в её восстановлении. О стороне разделения в этой картине см. нашу статистику разделения речи.
| Показатель | Значение | Источник |
|---|---|---|
| BLEU перевода речи на CoVoST2 (с английского на немецкий), FBANK против HuBERT Large | 2,32 против 20,01 | Tsai и др., SUPERB-SG, ACL 2022 |
| WER распознавания речи вне домена (испанский, мандаринский, арабский и спонтанный английский), FBANK против HuBERT Large | 63,58% против 44,08% | Tsai и др., SUPERB-SG, ACL 2022 |
| WER речи после преобразования голоса на VCC2020, FBANK против HuBERT Large | 38,3% против 9,0% | Tsai и др., SUPERB-SG, ACL 2022 |
| Оценка SI-SDRi разделения речи (улучшение качества сигнала, больше - лучше), FBANK против HuBERT Large | 9,23 против 10,45 | Tsai и др., SUPERB-SG, ACL 2022 |
| Оценка PESQ улучшения речи на Voicebank-DEMAND, FBANK против wav2vec 2.0 Large против HuBERT Large | 2,55 против 2,52 против 2,64 | Tsai и др., SUPERB-SG, ACL 2022 |
| Корреляция результатов задач с ASR, для перевода речи и для ASR вне домена | по 0,92 | Tsai и др., SUPERB-SG, ACL 2022 |
| Доля из 33 протестированных моделей, превосходящих FBANK во всех 15 задачах | Около половины | Yang и др., IEEE/ACM TASLP 2024 |
| Задачи, в которых остальные модели уступают FBANK | Примерно 1-3 из 15, чаще всего улучшение речи и разделение речи | Yang и др., IEEE/ACM TASLP 2024 |
Строка о распознавании вне домена заслуживает внимания: HuBERT Large в среднем всё ещё допускает 44,08% ошибок по этим четырём подзадачам (мандаринский оценивается по доле ошибок в символах), что намного выше его 3,62% на англоязычном LibriSpeech.
5. Масштабирование: параметры, часы предобучения и таблица лидеров
Крупнейшая модель конкурса SUPERB @ SLT 2022 имела примерно вдвое больше параметров, чем WavLM-large, и набрала на 394 балла меньше (1242 - 848). Размер даёт меньше, чем рецепт обучения. Самое наглядное свидетельство - WavLM Base+, который сохранил размер Base в 94,70M параметров, добавил более разнообразное обучающее аудио и обошёл модель более чем в 3 раза крупнее (316,61 / 94,70 = 3,34).
Оценка конкурса фиксирует базовый вариант FBANK на 0, а передовой результат на 15 октября 2021 года на 1000, так что всё выше 1000 превосходит тот срез. Общая оценка в статье о WavLM - отдельная шкала, где FBANK равен 43,2, и сравнивать их нельзя. Тем временем данные предобучения выросли с 94 000 часов у WavLM до миллионов часов, и счёт теперь выставляется во времени GPU.
| Показатель | Значение | Источник |
|---|---|---|
| Общая оценка SUPERB, HuBERT Large против WavLM Large (оба около 316,6M параметров) | 72,2 против 74,6 | Microsoft, WavLM, IEEE JSTSP 2022 |
| Общая оценка SUPERB, WavLM Base+ (94,70M параметров) против HuBERT Large (316,61M параметров) | 73,4 против 72,2 | Microsoft, WavLM, IEEE JSTSP 2022 |
| Аудио предобучения WavLM | 94 000 часов (60 000 Libri-Light, 10 000 GigaSpeech, 24 000 VoxPopuli) | Microsoft, WavLM, IEEE JSTSP 2022 |
| Оценка WavLM-large на скрытом наборе конкурса, с размером и вычислениями | 1242 (315,45M параметров, 4 326G MACs) | Feng и др., SUPERB @ SLT 2022 |
| Оценка крупнейшей заявки на скрытом наборе конкурса, Unsupervised ASR + T5 (619,82M параметров) | 848 | Feng и др., SUPERB @ SLT 2022 |
| Аудио предобучения XLS-R из пяти наборов данных | 436 000 часов | Mohamed и др., IEEE JSTSP 2022 |
| Размер модели XEUS и вычисления предобучения | 577M параметров; более 1 миллиона часов аудио; 63 000 GPU-часов на 64 GPU A100 примерно за 40 дней | Chen и др., XEUS, EMNLP 2024 |
| Аудио предобучения Google Universal Speech Model | 12 миллионов часов более чем на 300 языках | Google, статья об USM 2023 |
MACs (операции умножения с накоплением) оценивают, сколько вычислений нужно модели для работы. Строка Google - лишь ориентир по масштабу: оценки SUPERB для этой модели мы не нашли.
6. Многоязычные таблицы лидеров: переносится ли англоязычный рейтинг?
Лишь отчасти. WavLM, лидер англоязычного SUPERB, оказался самым слабым базовым вариантом в многоязычном конкурсе 2025 года: 72,0% доли ошибок в символах против 40,2% у XEUS. Статья о конкурсе описывает эту модель как только англоязычную, что наводит на мысль: место в таблице лидеров говорит об аудио предобучения не меньше, чем об архитектуре. О том, как речевые энкодеры ведут себя между языками на уровне эмбеддингов, см. нашу статистику многоязычных речевых эмбеддингов.
ML-SUPERB масштабирует свою оценку так же, с FBANK на 0. Масштабирование и здесь оборачивается против себя: крупные модели обычно выигрывали в одноязычном ASR, но авторы обнаружили, что базовые модели обычно обобщаются на многоязычные случаи лучше, чем их крупные версии. Конкурс ML-SUPERB 2.0 затем показывает диалекты как нерешённую часть: доля ошибок в символах у XEUS растёт с 40,2% до 68,7%.
| Показатель | Значение | Источник |
|---|---|---|
| Обучающее аудио ML-SUPERB на 143 языках, 10-минутный набор против 1-часового набора | 37,43 часа против 222,46 часа | Shi и др., ML-SUPERB, Interspeech 2023 |
| Оценка ML-SUPERB у XLSR-128, лучшей модели, на 10-минутном обучающем наборе против 1-часового обучающего набора | 947,5 против 996,0 | Shi и др., ML-SUPERB, Interspeech 2023 |
| Оценка ML-SUPERB при 10 минутах, wav2vec2-base против wav2vec2-large | 755,2 против 598,3 | Shi и др., ML-SUPERB, Interspeech 2023 |
| Оценка ML-SUPERB при 10 минутах / 1 часе: XEUS (577M параметров, 1M часов) против MMS 1B (1B, 491K часов) против w2v-BERT 2.0 v2 (580M, 4,5M часов) | 956 / 956 против 953 / 948 против 826 / 916 | Chen и др., XEUS, EMNLP 2024 |
| Доля ошибок в символах на стандартной речи, XEUS против только англоязычного WavLM | 40,2% против 72,0% | Chen и др., ML-SUPERB 2.0 Challenge, Interspeech 2025 |
| Доля ошибок в символах у XEUS, стандартная речь против диалектной речи | 40,2% против 68,7% | Chen и др., ML-SUPERB 2.0 Challenge, Interspeech 2025 |
У w2v-BERT 2.0 v2 в этом сравнении было больше всего аудио предобучения и самая низкая оценка, так что одни лишь часы вопрос тоже не решили. Оценки из исходного ML-SUPERB и из сравнения XEUS следует читать внутри каждой статьи, а не между ними.
7. Эффективность и реальное распространение
Ведущие модели дороги, и одно из направлений исследований сейчас пытается их уменьшить. DistilHuBERT - самый наглядный пример, но данные конкурса показывают цену: при 27,03M параметров он набрал 617 против 784 у HuBERT-base с 94,70M. Самая маленькая модель конкурса набрала всего 104, так что сжатие всё ещё теряет больше, чем подразумевают заголовочные проценты.
Сам бенчмаркинг тоже обходился недёшево, именно на это нацелен MiniSUPERB. Число загрузок даёт более свежий сигнал: wav2vec2-base-960h скачивают чаще, чем WavLM Large и HuBERT Large, хотя таблица лидеров поставила её ниже. Простота внедрения и то, что модель появилась первой, значат очень много.
| Показатель | Значение | Источник |
|---|---|---|
| DistilHuBERT по сравнению с HuBERT | на 75% меньше, на 73% быстрее | Chang и др., DistilHuBERT, ICASSP 2022 |
| Оценка на скрытом наборе конкурса, DistilHuBERT (27,03M параметров) против HuBERT-base (94,70M параметров) | 617 против 784 | Feng и др., SUPERB @ SLT 2022 |
| Самая маленькая модель конкурса, Chimera MelHuBERT v1 | 22,50M параметров, 271G MACs, оценка 104 | Feng и др., SUPERB @ SLT 2022 |
| Сокращение вычислений MiniSUPERB и его ранговая корреляция с конкурсом SUPERB | на 97% меньше MACs; Спирмен 0,982 | Wang и др., MiniSUPERB, IEEE ASRU 2023 |
| Необходимое число GPU: рецепты SUPERB против официального рецепта дообучения wav2vec 2.0 Large | 1 GPU против примерно 4-8 GPU | Yang и др., IEEE/ACM TASLP 2024 |
| Загрузок за последний месяц, facebook/wav2vec2-base-960h | 1 737 874 | Страница модели на Hugging Face, 31 октября 2026 года |
| Загрузок за последний месяц, microsoft/wavlm-large | 1 068 711 | Страница модели на Hugging Face, 31 октября 2026 года |
| Загрузок за последний месяц, facebook/hubert-large-ls960-ft | 616 230 | Страница модели на Hugging Face, 31 октября 2026 года |
Счётчик загрузок фиксирует скачивания, а не людей, поэтому читайте эти строки как признак активности, а не как число пользователей.
Итоги: рейтинг SUPERB для самоконтролируемых речевых моделей в цифрах
| Показатель | Значение | Источник |
|---|---|---|
| WER при 10 минутах разметки, wav2vec 2.0 Large (test-clean / test-other) | 4,8% / 8,2% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| WER при всех 960 часах разметки, wav2vec 2.0 Large (test-clean / test-other) | 1,8% / 3,3% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| Доля ошибок в фонемах, FBANK против HuBERT Large | 82,01% против 3,53% | Yang и др., SUPERB, Interspeech 2021 |
| WER распознавания речи на SUPERB, WavLM Large против XEUS | 3,44% против 3,34% | Chen и др., XEUS, EMNLP 2024 |
| Точность распознавания эмоций на IEMOCAP, XEUS | 71,08% | Chen и др., XEUS, EMNLP 2024 |
| EER верификации диктора на VoxCeleb1-O, эталон ECAPA-TDNN против дообученного WavLM Large | 1,010% против 0,383% | Microsoft, WavLM, IEEE JSTSP 2022 |
| BLEU перевода речи, FBANK против HuBERT Large | 2,32 против 20,01 | Tsai и др., SUPERB-SG, ACL 2022 |
| Модели, превосходящие FBANK во всех 15 задачах | Около половины из 33 | Yang и др., IEEE/ACM TASLP 2024 |
| Оценка WavLM-large на скрытом наборе конкурса | 1242 | Feng и др., SUPERB @ SLT 2022 |
| Общая оценка SUPERB, WavLM Base+ против HuBERT Large | 73,4 против 72,2 | Microsoft, WavLM, IEEE JSTSP 2022 |
| Вычисления предобучения XEUS | 63 000 GPU-часов | Chen и др., XEUS, EMNLP 2024 |
| Аудио предобучения Google Universal Speech Model | 12 миллионов часов | Google, статья об USM 2023 |
| Оценка ML-SUPERB у XLSR-128 на 1-часовом обучающем наборе | 996,0 | Shi и др., ML-SUPERB, Interspeech 2023 |
| Доля ошибок в символах на стандартной речи, XEUS против только англоязычного WavLM | 40,2% против 72,0% | Chen и др., ML-SUPERB 2.0 Challenge, Interspeech 2025 |
| DistilHuBERT по сравнению с HuBERT | на 75% меньше, на 73% быстрее | Chang и др., DistilHuBERT, ICASSP 2022 |
| Сокращение вычислений MiniSUPERB | на 97% меньше MACs | Wang и др., MiniSUPERB, IEEE ASRU 2023 |
| Загрузок за последний месяц, facebook/wav2vec2-base-960h | 1 737 874 | Страница модели на Hugging Face, 31 октября 2026 года |
Методология и источники
- SUPERB: Speech processing Universal PERformance Benchmark (Yang и др., Interspeech 2021)
- SUPERB-SG (Tsai и др., ACL 2022)
- A Large-Scale Evaluation of Speech Foundation Models (Yang и др., IEEE/ACM TASLP 2024)
- отчёт о конкурсе SUPERB @ SLT 2022 (Feng и др., 2022)
- ML-SUPERB (Shi и др., Interspeech 2023)
- The ML-SUPERB 2.0 Challenge (Chen и др., Interspeech 2025)
- MiniSUPERB (Wang и др., IEEE ASRU 2023)
- wav2vec 2.0 (Meta AI, NeurIPS 2020)
- HuBERT (Meta AI, IEEE/ACM TASLP 2021)
- wav2vec-U (Meta AI, 2021)
- WavLM (Microsoft, IEEE JSTSP 2022)
- XEUS: Towards Robust Speech Representation Learning for Thousands of Languages (Chen и др., EMNLP 2024)
- Universal Speech Model (Google, 2023)
- DistilHuBERT (Chang и др., ICASSP 2022)
- Self-Supervised Speech Representation Learning: A Review (Mohamed и др., IEEE JSTSP 2022)
- Страницы моделей на Hugging Face: facebook/wav2vec2-base-960h, microsoft/wavlm-large, facebook/hubert-large-ls960-ft (31 октября 2026 года)
- Наблюдение по данным: живую таблицу лидеров SUPERB не удалось прочитать 31 октября 2026 года (хост отклонил соединение, а на странице бенчмарка на GitHub нет оценок), поэтому каждая цифра SUPERB здесь взята из опубликованных статей, и более новая заявка может существовать. Встречаются три шкалы оценок, которые нельзя смешивать: общая оценка в статье о WavLM, оценка конкурса (базовый вариант 0, передовой результат на 15 октября 2021 года равен 1000) и оценка ML-SUPERB. Оценка 586,9 у wav2vec2-large на 1-часовом наборе ML-SUPERB сопровождается напечатанным значением идентификации языка 8,0 в таблице этой статьи, намного ниже соседних, поэтому этот единичный разрыв следует читать с осторожностью. Число параметров слегка различается по статьям: 316,62M против 315,45M для WavLM Large и 94,70M против 94,38M для WavLM Base+. Небольшие расхождения внутри источников: в тексте SUPERB для верификации диктора HuBERT указано 5,10, а в его таблице 5,11 (мы используем таблицу); в тексте XEUS для лучшей доли ошибок в символах при 10 минутах указано 33,3, а в его таблице 30,3 для XEUS и 33,3 для MMS 1B; в статье ML-SUPERB 2.0 названы и 149, и 154 языка, а приросты в её аннотации не совпадают с разделом 4.1, поэтому мы приводим только её таблицу базовых вариантов. Загрузки на Hugging Face - скользящий счётчик за последний месяц и меняются ежедневно. Большинство результатов SUPERB относится к 2021-2024 годам, поэтому считайте их самыми свежими доступными данными, а не измерениями 2026 года.
Последнее обновление: 31 октября 2026 года. Мы обновляем этот обзор ежеквартально, и следующее обновление ожидается, когда будут опубликованы результаты следующего конкурса ML-SUPERB.