wav2vec 2.0は、書き起こし音声わずか10分でLibriSpeech test-cleanの単語誤り率4.8%に到達した(Meta AI, wav2vec 2.0, NeurIPS 2020)。これは、人間による書き起こしを一切使わず、まず生の音声で学習したあとの結果であり、この手法が自己教師あり学習と呼ばれるものだ。SUPERB @ SLT 2022チャレンジの非公開テストセットでは、2021年10月時点の最高水準を1000とするスケールで、WavLM-largeが1242を記録した(Feng他、SUPERB @ SLT 2022)。それでも、ベンチマークされた33モデルのうち、すべてのタスクで従来のベースラインを上回ったのは約半数にすぎない(Yang他、IEEE/ACM TASLP 2024)。古いチェックポイントは今も日常的に使われている。facebook/wav2vec2-base-960hは先月のダウンロード数が1,737,874だった(Hugging Face、2026年10月31日)。本稿は、SUPERB、SUPERB-SG、ML-SUPERBの各ベンチマーク論文、SUPERB @ SLT 2022チャレンジ報告書、wav2vec 2.0、WavLM、XEUSの各モデル論文、およびHugging Faceのダウンロード数カウンターから集計したデータに基づく。こうした低い誤り率が示さない点については、音声認識のハルシネーション率のまとめで扱っている。
以下の数値の読み方についての注意:SUPERBのスコアは主に2021年から2024年のもので、記録を定めたのがベンチマーク論文だからである。今回の更新では稼働中のリーダーボードに接続できなかった(データウォッチを参照)。誤り率は低いほど良く、精度とSUPERBスコアは高いほど良い。
主なポイント
- wav2vec 2.0 Largeは、ラベル10分で4.8% / 8.2%のWERに達し、従来の最良手法の16.3% / 25.2%を上回った(Meta AI, wav2vec 2.0, NeurIPS 2020)。
- wav2vec-Uは、書き起こし音声ゼロでtest-otherのWER 5.9%に到達した(Meta AI, wav2vec-U 2021)。
- IEEEレビューの最高水準の表には、自己教師あり事前学習ありでLibriSpeechのWER 1.4% / 2.6%、なしで2.1% / 4.0%と記載されている(Mohamed他、IEEE JSTSP 2022)。
- HuBERT Largeは、音素誤り率をFBANKベースラインの82.01%から3.53%に引き下げた(Yang他、SUPERB、Interspeech 2021)。
- 感情認識は依然として低い上限にとどまり、首位はXEUSの精度71.08%である(Chen他、XEUS、EMNLP 2024)。
- 音声翻訳のBLEUは、FBANKの2.32からHuBERT Largeの20.01に上昇した(Tsai他、SUPERB-SG、ACL 2022)。
- 33モデルのうち約半数が、15タスクすべてでFBANKを上回る(Yang他、IEEE/ACM TASLP 2024)。
- WavLM Base+は94.70Mパラメータで総合73.4を記録し、316.61MパラメータのHuBERT Largeの72.2を上回った(Microsoft, WavLM, IEEE JSTSP 2022)。
- チャレンジ最大のモデル(619.82Mパラメータ)のスコアは848で、315.45MパラメータのWavLM-largeの1242に及ばなかった(Feng他、SUPERB @ SLT 2022)。
- ML-SUPERBの10分セットでは、wav2vec2-largeが598.3、より小さいwav2vec2-baseが755.2だった(Shi他、ML-SUPERB、Interspeech 2023)。
- DistilHuBERTはHuBERTを75%小さく、73%高速にする(Chang他、ICASSP 2022)。
- microsoft/wavlm-largeの先月のダウンロード数は1,068,711だった(Hugging Face、2026年10月31日)。
1. ラベル付きデータ:960時間から10分へ
単語誤り率(WER)とは、システムが誤る単語の割合であり、ここでの「ラベル」は人間による書き起こしを指す。LibriSpeechには2つの標準テストセットがあり、test-cleanと、より難しいtest-otherである。ラベル960時間から10分に減らすと、wav2vec 2.0のtest-other WERは3.3%から8.2%に上昇した。 960時間は57,600分なので、書き起こし音声は5,760分の1(57,600 / 10)に減り、誤り率は約2.5倍(8.2 / 3.3)になったことになる。
ボトルネックは移った。かつては書き起こしが品質の下限を決めていたが、wav2vec 2.0以降、希少な入力はラベルなし音声とGPU時間になった。test-otherでの8.2%は、従来の最良手法の25.2%より約67%低く((25.2 - 8.2) / 25.2)、IEEEレビューは、低リソースのLibri-lightサブセットだけを用いてLibriSpeechで1桁台のWERに到達した最初のモデルと評価している。
| 指標 | 値 | 出典 |
|---|---|---|
| ラベル10分でのWER、wav2vec 2.0 Large対従来の最良モデルDiscrete BERT(test-clean / test-other) | 4.8% / 8.2% 対 16.3% / 25.2% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| ラベル10分でのWER、HuBERT X-Large(test-clean / test-other) | 4.6% / 6.8% | Meta AI, HuBERT, IEEE/ACM TASLP 2021 |
| ラベル1時間でのtest-other WER、wav2vec 2.0 Large対WavLM Large | 5.8% 対 5.1% | Microsoft, WavLM, IEEE JSTSP 2022 |
| ラベル10時間でのWER、HuBERT LargeとWavLM Large(どちらもtest-clean / test-other) | 2.4% / 4.6% | Microsoft, WavLM, IEEE JSTSP 2022 |
| LibriSpeechのラベル960時間すべてを使ったWER、wav2vec 2.0 Large(test-clean / test-other) | 1.8% / 3.3% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| 書き起こし音声ゼロでのtest-other WER、wav2vec-U | 5.9% | Meta AI, wav2vec-U 2021 |
| レビューの最高水準の表におけるLibriSpeech WER、自己教師あり事前学習なし対あり(test-clean / test-other) | 2.1% / 4.0% 対 1.4% / 2.6% | Mohamed他、IEEE JSTSP 2022 |
この比較は完全に同条件というわけではない。Discrete BERTは4-gram言語モデルを使ったが、上記のwav2vec 2.0、HuBERT、WavLMの行はデコード時にTransformer言語モデルを使っている。最終行の自己教師ありの結果は、conformer XXLモデルとnoisy studentによる自己学習を組み合わせたものだ。入手できる最新データ:Meta AIとMicrosoftの論文、2020年から2022年。
2. SUPERBのコンテンツタスク:何と言ったかを認識する
SUPERBは10タスクと1つの厳格なルールで始まった。事前学習済みモデルは凍結したままで、小さなタスクヘッドだけを学習させる。ベースラインはFBANKで、事前学習をまったく行わない従来型のフィルタバンク音響特徴量である。HuBERT Largeは音素誤り率を82.01%から3.53%に引き下げた。 音素誤り率はWERと同じ考え方で、単語ではなく音声の音で数えたものだ。
見出しの差は一点を誇張している。論文によれば、線形ヘッドに限定されたタスクではFBANKは機能せず、これがキーワード検出で8.63%という低いスコアになる理由である。ASRで非線形ヘッドを使う場合、FBANKは十分に競争力があり、その23.18%のほうが公平な下限といえる。例による検索(query by example)は、音声サンプルから発話された語を見つけるタスクで、最大語重み付き値(MTWV)で採点され、このグループで最も低い絶対値になる。原論文での最高スコアは0.0736だった。
| 指標 | 値 | 出典 |
|---|---|---|
| LibriSpeechでの音素誤り率、FBANKベースライン対HuBERT Large | 82.01% 対 3.53% | Yang他、SUPERB、Interspeech 2021 |
| Speech Commandsでのキーワード検出精度、FBANK対wav2vec 2.0 Large | 8.63% 対 96.66% | Yang他、SUPERB、Interspeech 2021 |
| 言語モデルなしの自動音声認識WER、FBANK対HuBERT Large | 23.18% 対 3.62% | Yang他、SUPERB、Interspeech 2021 |
| 例による検索のMTWVスコア、FBANK対HuBERT Base | 0.0058 対 0.0736 | Yang他、SUPERB、Interspeech 2021 |
| SUPERBでの自動音声認識WER、WavLM Large対XEUS | 3.44% 対 3.34% | Chen他、XEUS、EMNLP 2024 |
| SUPERBでのキーワード検出精度、WavLM Large対XEUS | 97.86% 対 98.32% | Chen他、XEUS、EMNLP 2024 |
ここでの最新の英語SUPERBの数値はXEUSによるもので、差は薄くなっている。ASRでは0.10パーセントポイントだ。このタスク群は飽和に近いように見える。
3. 話者、意図、感情のタスク
話者タスクは、何を言ったかではなく誰が話しているかを問うので、表現が単語以上のものを保持しているかを試す。話者識別は、FBANKではほぼゼロだったのが、HuBERT Largeでは90.33%まで上昇した。ファインチューニングしたWavLM Largeは、VoxCeleb1-Oで等誤り率0.383%に達し、基準システムのECAPA-TDNNは1.010%だった。 等誤り率(EER)とは、誤受理と誤拒否が等しくなる動作点であり、低いほど良い。
感情は例外である。IEMOCAPでの4クラス感情認識の精度は、WavLM LargeとXEUSの間でほとんど変わっておらず、最高スコアでも10クリップのうち3クリップ近くが誤りになる。実用上の限界は、音声感情認識の精度統計で扱っている。ダイアライゼーションの行は異なるデータセットを使っているため、比較する前に話者ダイアライゼーション誤り率のまとめを参照してほしい。ダイアライゼーション誤り率(DER)は、音声の時間のうち「誰がいつ話したか」を誤った割合を測る。
| 指標 | 値 | 出典 |
|---|---|---|
| VoxCeleb1での話者識別精度、FBANK対HuBERT Large | 8.5E-4 対 90.33(パーセント) | Yang他、SUPERB、Interspeech 2021 |
| Fluent Speech Commandsでの意図分類精度、FBANK対HuBERT Large | 9.10% 対 98.76% | Yang他、SUPERB、Interspeech 2021 |
| レビューの最高水準の表における意図分類精度、自己教師あり事前学習なし対あり | 98.8% 対 99.3% | Mohamed他、IEEE JSTSP 2022 |
| 2話者のLibriMixでの話者ダイアライゼーションDER、WavLM Large対XEUS | 3.24% 対 3.11% | Chen他、XEUS、EMNLP 2024 |
| IEMOCAPでの感情認識精度(4クラス)、WavLM Large対XEUS | 70.62% 対 71.08% | Chen他、XEUS、EMNLP 2024 |
| VoxCeleb1-Oでの話者照合EER、ECAPA-TDNN基準対大マージンのファインチューニングとスコア較正を施したWavLM Large | 1.010% 対 0.383% | Microsoft, WavLM, IEEE JSTSP 2022 |
| CALLHOMEの電話通話でのダイアライゼーションDER、EEND-EDAクラスタリング対WavLM Large | 11.84% 対 10.35% | Microsoft, WavLM, IEEE JSTSP 2022 |
話者照合の行では手法が変わっている点に注意してほしい。この結果はSUPERBの凍結設定ではなくファインチューニングによるものなので、リーダーボードのスコアではない。IEEEレビューは、最上位での差がいかに小さくなりうるかも示しており、意図分類では0.5パーセントポイントである。
4. SUPERB-SGと15タスクのベンチマーク:自己教師ありが効かなくなる場所
SUPERB-SGは、意味理解と生成に関するより難しい5つのタスクを加えた。翻訳が最大の伸びを示す。翻訳品質のスコアであるBLEUは、2.32から20.01に上昇した。 声質変換も大きく改善する。ここでは、変換後の音声を認識器がいくつの単語で誤るかで測っている。
その先では、効果は止まる。音声強調と音声分離は低レベルの信号の細部に依存しており、著者らは、この2つのタスクはほかのタスクとの相関が強くないと指摘している。実際、wav2vec 2.0 LargeはPESQ音声品質スコアでFBANKを下回る。ジャーナル版は、これを大規模に裏づけている。音声を要約するために作られたモデルが、音声を再構成するのが得意とは限らない。この構図の分離の側面については、音声分離の統計を参照してほしい。
| 指標 | 値 | 出典 |
|---|---|---|
| CoVoST2での音声翻訳BLEU(英語からドイツ語)、FBANK対HuBERT Large | 2.32 対 20.01 | Tsai他、SUPERB-SG、ACL 2022 |
| ドメイン外音声認識のWER(スペイン語、中国語(北京語)、アラビア語、自発的な英語)、FBANK対HuBERT Large | 63.58% 対 44.08% | Tsai他、SUPERB-SG、ACL 2022 |
| VCC2020での声質変換後の音声のWER、FBANK対HuBERT Large | 38.3% 対 9.0% | Tsai他、SUPERB-SG、ACL 2022 |
| 音声分離のSI-SDRiスコア(信号品質の改善、高いほど良い)、FBANK対HuBERT Large | 9.23 対 10.45 | Tsai他、SUPERB-SG、ACL 2022 |
| Voicebank-DEMANDでの音声強調PESQスコア、FBANK対wav2vec 2.0 Large対HuBERT Large | 2.55 対 2.52 対 2.64 | Tsai他、SUPERB-SG、ACL 2022 |
| ASRとのタスク結果の相関、音声翻訳とドメイン外ASRについて | それぞれ0.92 | Tsai他、SUPERB-SG、ACL 2022 |
| ベンチマークした33モデルのうち、15タスクすべてでFBANKを上回るモデルの割合 | 約半数 | Yang他、IEEE/ACM TASLP 2024 |
| 残りのモデルがFBANKに劣るタスク | 15タスク中およそ1〜3、最も多いのは音声強調と音声分離 | Yang他、IEEE/ACM TASLP 2024 |
ドメイン外の行は注目に値する。HuBERT Largeは、この4つのサブタスク全体で平均44.08%の誤り率であり(北京語は文字誤り率で採点)、英語LibriSpeechでの3.62%をはるかに上回る。
5. スケーリング:パラメータ、事前学習時間、リーダーボード
SUPERB @ SLT 2022チャレンジで最大のモデルは、WavLM-largeの約2倍のパラメータを持ちながら、スコアは394ポイント低かった(1242 - 848)。 サイズが買えるものは、学習手順が買えるものより少ない。最も明快な証拠はWavLM Base+で、94.70MパラメータというBaseのサイズを維持しつつ、より多様な学習用音声を加えて、3倍超のサイズのモデルを上回った(316.61 / 94.70 = 3.34)。
チャレンジのスコアは、FBANKベースラインを0、2021年10月15日時点の最高水準を1000に固定しているので、1000を超えればそのスナップショットを上回ったことになる。WavLM論文の総合スコアは別のスケールで、FBANKが43.2であり、両者を比較してはならない。一方で、事前学習データはWavLMの94,000時間から数百万時間にまで増え、その請求書はいまGPU時間に表れている。
| 指標 | 値 | 出典 |
|---|---|---|
| SUPERB総合スコア、HuBERT Large対WavLM Large(どちらも約316.6Mパラメータ) | 72.2 対 74.6 | Microsoft, WavLM, IEEE JSTSP 2022 |
| SUPERB総合スコア、WavLM Base+(94.70Mパラメータ)対HuBERT Large(316.61Mパラメータ) | 73.4 対 72.2 | Microsoft, WavLM, IEEE JSTSP 2022 |
| WavLMの事前学習用音声 | 94,000時間(Libri-Light 60,000、GigaSpeech 10,000、VoxPopuli 24,000) | Microsoft, WavLM, IEEE JSTSP 2022 |
| WavLM-largeの非公開セットでのチャレンジスコア、サイズと計算量つき | 1242(315.45Mパラメータ、4,326G MAC) | Feng他、SUPERB @ SLT 2022 |
| 最大の投稿モデル、Unsupervised ASR + T5(619.82Mパラメータ)の非公開セットでのチャレンジスコア | 848 | Feng他、SUPERB @ SLT 2022 |
| 5つのデータセットにまたがるXLS-Rの事前学習用音声 | 436,000時間 | Mohamed他、IEEE JSTSP 2022 |
| XEUSのモデルサイズと事前学習の計算量 | 577Mパラメータ、100万時間超の音声、64基のA100 GPUで約40日間かけて63,000 GPU時間 | Chen他、XEUS、EMNLP 2024 |
| Google Universal Speech Modelの事前学習用音声 | 300超の言語にわたる12百万時間 | Google、USM論文 2023 |
MAC(積和演算)は、モデルの実行に必要な計算量を見積もるものだ。Googleの行は規模の目安にすぎず、そのモデルのSUPERBスコアは見つからなかった。
6. 多言語リーダーボード:英語のランキングはそのまま通用するか
部分的にしか通用しない。英語のSUPERBでトップクラスだったWavLMは、2025年の多言語チャレンジで最も弱いベースラインとなり、文字誤り率はXEUSの40.2%に対して72.0%だった。 チャレンジ論文はこのモデルを英語専用と説明しており、リーダーボードの順位は、アーキテクチャと同じくらい事前学習用音声についても語っていることを示唆する。音声エンコーダが言語をまたいで埋め込みレベルでどう振る舞うかについては、多言語音声埋め込みの統計を参照してほしい。
ML-SUPERBも同じ方法でスコアを再スケールしており、FBANKが0である。ここではスケーリングが裏目に出ることもある。大きなモデルは単一言語のASRでは通常勝っていたが、著者らは、ベースモデルのほうが大型版より多言語のケースによく汎化する傾向があると指摘した。続くML-SUPERB 2.0チャレンジは、方言が未解決の部分であることを示しており、XEUSの文字誤り率は40.2%から68.7%に上昇する。
| 指標 | 値 | 出典 |
|---|---|---|
| 143言語にわたるML-SUPERBの学習用音声、10分セット対1時間セット | 37.43時間 対 222.46時間 | Shi他、ML-SUPERB、Interspeech 2023 |
| 最上位モデルXLSR-128のML-SUPERBスコア、10分の学習セット対1時間の学習セット | 947.5 対 996.0 | Shi他、ML-SUPERB、Interspeech 2023 |
| 10分でのML-SUPERBスコア、wav2vec2-base対wav2vec2-large | 755.2 対 598.3 | Shi他、ML-SUPERB、Interspeech 2023 |
| 10分 / 1時間でのML-SUPERBスコア:XEUS(577Mパラメータ、1M時間)対MMS 1B(1B、491K時間)対w2v-BERT 2.0 v2(580M、4.5M時間) | 956 / 956 対 953 / 948 対 826 / 916 | Chen他、XEUS、EMNLP 2024 |
| 標準的な話し方での文字誤り率、XEUS対英語専用WavLM | 40.2% 対 72.0% | Chen他、ML-SUPERB 2.0 Challenge、Interspeech 2025 |
| XEUSの文字誤り率、標準的な話し方対方言 | 40.2% 対 68.7% | Chen他、ML-SUPERB 2.0 Challenge、Interspeech 2025 |
w2v-BERT 2.0 v2は、この比較で事前学習用音声が最も多く、スコアが最も低かったので、時間数だけでも決着はつかなかった。元のML-SUPERBとXEUSの比較のスコアは、論文をまたいでではなく、それぞれの論文の中で読むべきだ。
7. 効率性と実世界での普及
先頭を走るモデルは高価であり、いまではそれを小さくしようとする研究の流れがある。DistilHuBERTは最も分かりやすい例だが、チャレンジのデータは代償を示している。27.03Mパラメータでスコアは617であり、94.70MパラメータのHuBERT-baseの784を下回った。 チャレンジ最小のモデルはわずか104で、圧縮は見出しの割合が示唆するよりも多くを失っている。
ベンチマーク自体もコストになってきた。MiniSUPERBが狙うのはそこだ。ダウンロード数は、より新しいシグナルを加える。wav2vec2-base-960hは、リーダーボードではより低く位置づけられたにもかかわらず、WavLM LargeやHuBERT Largeよりも多く取得されている。導入しやすいこと、そして先行したことは、大きく効いている。
| 指標 | 値 | 出典 |
|---|---|---|
| DistilHuBERTとHuBERTの比較 | 75%小さく、73%高速 | Chang他、DistilHuBERT、ICASSP 2022 |
| 非公開セットでのチャレンジスコア、DistilHuBERT(27.03Mパラメータ)対HuBERT-base(94.70Mパラメータ) | 617 対 784 | Feng他、SUPERB @ SLT 2022 |
| チャレンジ最小のモデル、Chimera MelHuBERT v1 | 22.50Mパラメータ、271G MAC、スコア104 | Feng他、SUPERB @ SLT 2022 |
| MiniSUPERBの計算量削減と、SUPERBチャレンジとの順位相関 | MACを97%削減、Spearman 0.982 | Wang他、MiniSUPERB、IEEE ASRU 2023 |
| 必要なGPU:SUPERBの手順対wav2vec 2.0 Large公式のファインチューニング手順 | 1 GPU 対 およそ4〜8 GPU | Yang他、IEEE/ACM TASLP 2024 |
| 先月のダウンロード数、facebook/wav2vec2-base-960h | 1,737,874 | Hugging Faceモデルページ、2026年10月31日 |
| 先月のダウンロード数、microsoft/wavlm-large | 1,068,711 | Hugging Faceモデルページ、2026年10月31日 |
| 先月のダウンロード数、facebook/hubert-large-ls960-ft | 616,230 | Hugging Faceモデルページ、2026年10月31日 |
ダウンロード数のカウンターが記録するのは取得回数であって人数ではないので、これらの行はユーザー数ではなく活動の目安として読んでほしい。
数字で見る自己教師あり音声モデルのSUPERBリーダーボード(まとめ)
| 指標 | 値 | 出典 |
|---|---|---|
| ラベル10分でのWER、wav2vec 2.0 Large(test-clean / test-other) | 4.8% / 8.2% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| ラベル960時間すべてを使ったWER、wav2vec 2.0 Large(test-clean / test-other) | 1.8% / 3.3% | Meta AI, wav2vec 2.0, NeurIPS 2020 |
| 音素誤り率、FBANK対HuBERT Large | 82.01% 対 3.53% | Yang他、SUPERB、Interspeech 2021 |
| SUPERBでの音声認識WER、WavLM Large対XEUS | 3.44% 対 3.34% | Chen他、XEUS、EMNLP 2024 |
| IEMOCAPでの感情認識精度、XEUS | 71.08% | Chen他、XEUS、EMNLP 2024 |
| VoxCeleb1-Oでの話者照合EER、ECAPA-TDNN基準対ファインチューニングしたWavLM Large | 1.010% 対 0.383% | Microsoft, WavLM, IEEE JSTSP 2022 |
| 音声翻訳BLEU、FBANK対HuBERT Large | 2.32 対 20.01 | Tsai他、SUPERB-SG、ACL 2022 |
| 15タスクすべてでFBANKを上回るモデル | 33モデル中の約半数 | Yang他、IEEE/ACM TASLP 2024 |
| WavLM-largeの非公開セットでのチャレンジスコア | 1242 | Feng他、SUPERB @ SLT 2022 |
| SUPERB総合スコア、WavLM Base+対HuBERT Large | 73.4 対 72.2 | Microsoft, WavLM, IEEE JSTSP 2022 |
| XEUSの事前学習の計算量 | 63,000 GPU時間 | Chen他、XEUS、EMNLP 2024 |
| Google Universal Speech Modelの事前学習用音声 | 12百万時間 | Google、USM論文 2023 |
| 1時間の学習セットでのXLSR-128のML-SUPERBスコア | 996.0 | Shi他、ML-SUPERB、Interspeech 2023 |
| 標準的な話し方での文字誤り率、XEUS対英語専用WavLM | 40.2% 対 72.0% | Chen他、ML-SUPERB 2.0 Challenge、Interspeech 2025 |
| DistilHuBERTとHuBERTの比較 | 75%小さく、73%高速 | Chang他、DistilHuBERT、ICASSP 2022 |
| MiniSUPERBの計算量削減 | MACを97%削減 | Wang他、MiniSUPERB、IEEE ASRU 2023 |
| 先月のダウンロード数、facebook/wav2vec2-base-960h | 1,737,874 | Hugging Faceモデルページ、2026年10月31日 |
方法論と出典
- SUPERB: Speech processing Universal PERformance Benchmark (Yang他、Interspeech 2021)
- SUPERB-SG (Tsai他、ACL 2022)
- A Large-Scale Evaluation of Speech Foundation Models (Yang他、IEEE/ACM TASLP 2024)
- SUPERB @ SLT 2022チャレンジ報告書 (Feng他、2022)
- ML-SUPERB (Shi他、Interspeech 2023)
- The ML-SUPERB 2.0 Challenge (Chen他、Interspeech 2025)
- MiniSUPERB (Wang他、IEEE ASRU 2023)
- wav2vec 2.0 (Meta AI、NeurIPS 2020)
- HuBERT (Meta AI、IEEE/ACM TASLP 2021)
- wav2vec-U (Meta AI、2021)
- WavLM (Microsoft、IEEE JSTSP 2022)
- XEUS: Towards Robust Speech Representation Learning for Thousands of Languages (Chen他、EMNLP 2024)
- Universal Speech Model (Google、2023)
- DistilHuBERT (Chang他、ICASSP 2022)
- Self-Supervised Speech Representation Learning: A Review (Mohamed他、IEEE JSTSP 2022)
- Hugging Faceのモデルページ:facebook/wav2vec2-base-960h、microsoft/wavlm-large、facebook/hubert-large-ls960-ft (2026年10月31日)
- データウォッチ:稼働中のSUPERBリーダーボードは2026年10月31日時点で読み取れなかった(ホストが接続を拒否し、ベンチマークのGitHubページにもスコアが表示されない)。そのため、本稿のSUPERBの数値はすべて公表された論文に基づいており、より新しい投稿が存在する可能性がある。3つのスコアのスケールが登場するが、互いに置き換えることはできない。WavLM論文の総合スコア、チャレンジスコア(ベースラインが0、2021年10月15日時点の最高水準が1000)、そしてML-SUPERBスコアである。ML-SUPERBの1時間セットでのwav2vec2-largeの586.9というスコアは、その論文の表に印刷された言語識別の値8.0に続くもので、隣接する値よりはるかに低いため、この単独の差は慎重に読むべきだ。パラメータ数は論文によってわずかに異なる。WavLM Largeでは316.62M対315.45M、WavLM Base+では94.70M対94.38Mである。出典内の軽微な食い違い:SUPERBの本文ではHuBERTの話者照合が5.10とされているが、その表では5.11となっている(本稿では表を採用)。XEUSの本文では10分での最良の文字誤り率が33.3とされているが、その表ではXEUSが30.3、MMS 1Bが33.3となっている。ML-SUPERB 2.0論文は149言語と154言語の両方を述べており、その要旨の改善幅は4.1節と一致しないため、ベースラインの表のみを報告している。Hugging Faceのダウンロード数は直近1か月のローリングカウントで、日々変動する。SUPERBの結果の大半は2021年から2024年のものなので、2026年の測定値ではなく、入手できる最新データとして扱ってほしい。
最終更新日:2026年10月31日。当社はこのまとめを四半期ごとに更新しており、次回の更新は、次のML-SUPERBチャレンジの結果が公表された時点を予定している。