2023年秋以降に実施された世界の選挙の39%でディープフェイクが確認され、30カ国にわたり133件のインシデントが記録されています(German Marshall Fund, Spitting Images 2024-2026)。他の調査によれば、その規模はさらに広範です。2021年以降、38カ国が選挙ディープフェイクに直面しており、合計38億人に影響が及んでいます(Surfshark, 2025)。有権者の不安も同様のペースで高まっており、米国成人の57%がAIが選挙関連コンテンツの捏造に使用されることを非常に、または強く懸念しています(Pew Research Center, 2024)。しかし、これまでで最も引用されている執行措置、すなわちバイデン氏のクローン音声によるロボコールに対するFCCの600万ドルの罰金は、2024年のいずれの投票でもディープフェイクが結果に測定可能な影響を与えたことを示す証拠がないとする学術的な調査結果と併存しています(Alan Turing Institute, 2024)。この分析は、German Marshall Fund、Pew Research Center、Surfshark、および他の13の一次情報源からのデータを統合し、2026年に重要となる選挙ディープフェイクの数字をまとめたものです。
TL;DR
- 2023年秋以降、30カ国にわたり133件の選挙ディープフェイクが追跡されている(German Marshall Fund, 2024-2026)。
- 2023年秋以降に実施された選挙の39%で重大なディープフェイクキャンペーンが確認された(German Marshall Fund, 2024-2026)。
- 2021年以降、38カ国が選挙ディープフェイクに直面し、38億人に影響が及んでいる(Surfshark, 2025)。
- 2025年第3四半期だけで482件の政治的動機によるディープフェイクインシデントが記録された(Resemble AI, 2025)。
- 音声は最も一般的な選挙ディープフェイクの形式であり、追跡された事例の69%に登場する(German Marshall Fund, 2024-2026)。
- 米国成人の57%が、AIが偽の選挙情報を拡散することを非常に、または強く懸念している(Pew Research Center, 2024)。
- 世界中で58%の人々がオンライン上で本物と偽物のニュースを見分けることに不安を感じている(Reuters Institute, 2025)。
- ニューハンプシャー州のディープフェイクによるバイデン氏のロボコールに対するFCCの罰金:600万ドル(FCC, 2024)。
- 2024年の英国総選挙で確認されたバイラルなAI誤情報事例:16件(Alan Turing Institute, 2024)。
- 2025年のカナダ選挙に関する研究では、ディープフェイクが選挙関連画像の5.86%を占めた(ACM Web Conference, 2026)。
- 2026年5月時点で選挙ディープフェイクを規制する法律を持つ米国の州:30州(Public Citizen, 2026)。
- 2024年の選挙では、安価な偽装がAIディープフェイクの7倍多く使用された(Knight First Amendment Institute, 2024)。
1. 実際に追跡されている選挙ディープフェイクの件数
見出しとなる件数は、懸念の大きさが示唆するよりも小さいものの、増加傾向にあり、世界的な広がりを見せています。公開された手法を持つ名の知れたトラッカーは、一度きりの氾濫ではなく、着実で世界的な拡散という一貫した傾向を示しています。German Marshall Fundは30カ国にわたり133件の選挙ディープフェイクを記録し、2023年秋以降の選挙の39%で重大なディープフェイクキャンペーンが確認されたとしています(German Marshall Fund, 2024-2026)。Resemble AIの四半期別集計はさらに詳細な情報を加えており、2025年第3四半期には、検証済みインシデント合計2,031件のうち482件が政治的動機によるものであり、前四半期比317%の急増を記録しています。重要な点として、Knight First Amendment InstituteがWIRED AI Elections Project内の78件の事例を検証したところ、そのうち39件、およそ半数には欺瞞的意図が見られませんでした。より広範な合成メディアの全体像については、ディープフェイク統計まとめをご覧ください。
| 指標 | 値 | 出典 |
|---|---|---|
| 30カ国で追跡された選挙ディープフェイク(2023年秋以降) | 133 | German Marshall Fund, 2024-2026 |
| 重大なディープフェイクキャンペーンが確認された選挙 | 39% | German Marshall Fund, 2024-2026 |
| 2021年以降、選挙ディープフェイクの影響を受けた国(38億人) | 38 | Surfshark, 2025 |
| 2023年以降に選挙が行われ、ディープフェイクが確認された国 | 33 of 87 | Surfshark, 2025 |
| 政治的動機によるディープフェイクインシデント、2025年第3四半期 | 482 | Resemble AI, 2025 |
| 2024年の世界の選挙で追跡されたAI使用事例 | 78 | Knight First Amendment Institute, 2024 |
| 2024年に追跡された事例のうち欺瞞的意図がなかったもの | 39 of 78 | Knight First Amendment Institute, 2024 |
| 2024年に安価な偽装がAIディープフェイクを上回った倍率 | 7x | Knight First Amendment Institute, 2024 |
文脈補足:Purdue大学を拠点とするPolitical Deepfakes Incidents Databaseは、2017年まで遡る114件の政治的に重要なインシデントを分類しており、合成政治メディアが現在の生成AIの波に先立って存在していたことを示しています(AAAI, 2024)。
2. 形式と拡散:選挙ディープフェイクの伝わり方
形式の内訳は、ディープフェイクは主に精巧な偽動画であるという一般的な思い込みを覆すものです。German Marshall Fundのデータセットでは、音声が単独で最も一般的な形式であり、追跡された事例の69%に登場し、動画の55%、画像の20%を上回っています(German Marshall Fund, 2024-2026)。音声は制作コストが低く、視覚的に暴くことが難しく、音声チャネルを通じてよく拡散します。配信は圧倒的にオープンなソーシャルプラットフォームに偏っており、プライベートメッセージングアプリが注目すべき第二の経路となっており、これが削除や測定を複雑にしています。
| 指標 | 値 | 出典 |
|---|---|---|
| 音声を使用する選挙ディープフェイク | 69% | German Marshall Fund, 2024-2026 |
| 動画を使用する選挙ディープフェイク | 55% | German Marshall Fund, 2024-2026 |
| 画像を使用する選挙ディープフェイク | 20% | German Marshall Fund, 2024-2026 |
| ソーシャルメディア経由で拡散したインシデント | 92% | Surfshark, 2025 |
| メッセージングアプリ経由で拡散したインシデント | 32% | Surfshark, 2025 |
| オンラインのターゲット広告経由で拡散したインシデント | 32% | Surfshark, 2025 |
| プラットフォーム別割合:X / Facebook / WhatsApp | 53% / 39% / 29% | Surfshark, 2025 |
| インドの2024年選挙におけるAIコンテンツ支出の推計 | $50 million | Surfshark, 2025 |
外れ値についての補足:電話およびロボコールは配信チャネルのわずか5%を占めるに過ぎませんでしたが(Surfshark, 2025)、この小さな割合が、これまでで最も重大な米国の執行事例を生み出しました。
3. 有権者の信頼とAI選挙コンテンツへの懸念
世間の懸念は、文書化された実害をはるかに上回っており、このギャップ自体が一つの重要な発見です。米国成人の57%が、AIが偽の選挙情報の作成と拡散に使われることを非常に、または強く懸念しているとPewに回答し、党派間の差はほとんど見られませんでした:共和党支持者56%、民主党支持者58%(Pew Research Center, 2024)。主要プラットフォームが悪用を防止すると確信していると答えたのはわずか20%でした。世界的に見ると、Reuters Instituteは58%の人々がオンライン上で本物と偽物のニュースを見分けることに不安を感じていることを明らかにし、回答者はインフルエンサーと政治家を、虚偽情報の最大の発信源として同等に評価しました。
| 指標 | 値 | 出典 |
|---|---|---|
| AIが選挙情報を偽造することを強く懸念する米国成人 | 57% | Pew Research Center, 2024 |
| AIは主に悪用される / 主に良い目的で使われると回答 | 39% / 5% | Pew Research Center, 2024 |
| 大手テック企業がプラットフォームの悪用を防止すると確信 | 20% | Pew Research Center, 2024 |
| オンラインで本物と偽物のニュースを見分けることに不安 | 58% | Reuters Institute, 2025 |
| インフルエンサー / 政治家を虚偽情報の最大の脅威と評価 | 47% / 47% | Reuters Institute, 2025 |
| 本物と偽物のコンテンツを見分けることに非常に自信があるカリフォルニア州民 | 8% | Carnegie Endowment, 2026 |
| 選挙におけるディープフェイクを非常に懸念するカリフォルニア州民 | 57% | Carnegie Endowment, 2026 |
| 短期的な世界的リスクにおける誤情報・偽情報の順位 | No. 1, 2nd year | World Economic Forum, 2025 |
文脈補足:Pewの調査は2024年8月26日から9月2日にかけて米国成人9,720人を対象に実施されたものであり、World Economic Forumは現在、誤情報・偽情報を2年連続で最大の短期的世界リスクと位置付けています。
4. 音声ディープフェイクと選挙ロボコール
音声は、合成選挙メディアが最も厳しい規制対応を引き起こした領域です。FCCは政治活動家Steve Kramer氏に600万ドルの罰金を科しました。これは、2024年1月に行われたロボコールに関するもので、バイデン大統領のクローン音声を使用してニューハンプシャー州の有権者に予備選挙を棄権するよう促し、最大25,000人に届いた通話でした(FCC, 2024)。これらの通話を伝送した通信事業者Lingo Telecomは、別途100万ドルの民事罰に同意しました。ニューハンプシャー州の陪審は後に、Kramer氏を有権者抑圧およびなりすましに関する刑事責任について無罪としており、法的な見解がいかに未確定であるかを浮き彫りにしています。電話詐欺に関するより広範な文脈については、ロボコール統計およびビッシング統計をご覧ください。
| 指標 | 値 | 出典 |
|---|---|---|
| Steve Kramer氏に対するFCCの罰金(NHロボコール) | $6 million | FCC, 2024 |
| ディープフェイクロボコールの対象となったニューハンプシャー州の有権者数 | up to 25,000 | FCC, 2024 |
| Lingo Telecomの民事罰 | $1 million | FCC, 2024 |
| 追跡された選挙ディープフェイクのうち音声が占める割合 | 69% | German Marshall Fund, 2024-2026 |
| ディープフェイク配信チャネルにおけるロボコールの割合 | 5% | Surfshark, 2025 |
| Kramer氏の州刑事責任に対する陪審評決(2025年6月) | acquitted | NHPR, 2025 |
文脈補足:FCCは通話から数週間以内に対応し、その後の裁定により、ロボコールにおけるAI生成音声は既存のテレマーケティング法の適用対象となることが明確化されました。これは選挙ディープフェイクに関連する連邦の措置としては初めてのものです。
5. 実世界への影響について証拠が示すこと
インシデント件数が増加する一方で、文書化された選挙への影響は見つけることが困難でした。Alan Turing Instituteは、2024年の英国総選挙でわずか16件、EUおよびフランスの選挙を合わせて11件のバイラルなAI誤情報事例を確認しましたが、それらのいずれかが結果を変えたという証拠はありませんでした(Alan Turing Institute, 2024)。最も詳細な学術的測定である、2025年のカナダ連邦選挙に関する査読済み研究では、ディープフェイクが選挙関連画像の5.86%を占めていたものの、X上での閲覧数の獲得はわずか0.52%にとどまり、そのほぼ半数は無害または非政治的なものでした。残りを測定する上での制約となっているのは依然として検出技術です。ディープフェイク検出統計をご覧ください。
| 指標 | 値 | 出典 |
|---|---|---|
| 確認されたバイラルなAI誤情報事例、2024年英国総選挙 | 16 | Alan Turing Institute, 2024 |
| 確認されたバイラルなAI誤情報事例、EUおよびフランスの選挙 | 11 | Alan Turing Institute, 2024 |
| 英国/フランス/EUの結果への測定可能な影響 | none found | Alan Turing Institute, 2024 |
| ディープフェイクだった選挙関連画像、カナダ2025年(187,778件の投稿中) | 5.86% | ACM Web Conference, 2026 |
| X対Blueskyのディープフェイク率、カナダ2025年 | 7.9% vs 2.2% | ACM Web Conference, 2026 |
| 合成画像の共有:右派寄り対左派寄りアカウント | 9.24% vs 3.87% | ACM Web Conference, 2026 |
| X上の全閲覧数に占めるディープフェイクの割合、カナダ2025年 | 0.52% | ACM Web Conference, 2026 |
| 検出されたディープフェイクのうち無害または非政治的だったもの | 49.41% | ACM Web Conference, 2026 |
文脈補足:最も明確な例外はルーマニアであり、憲法裁判所は2024年12月6日、協調的な不正増幅行為とAI生成コンテンツを理由に、2024年大統領選挙の第1回投票を無効としました。これはEUにおいて初めてのこのような無効化です(OECD.AI incident database, 2024)。
6. 選挙ディープフェイクに関する法律と規制
立法は急速に加速していますが、そのほとんどは全面的な禁止ではなく開示規則によるものであり、表現の自由に関する制約を反映しています。2026年5月時点で、米国の30州が政治的コミュニケーションにおけるディープフェイクに対処する法律を制定しており、年初の28州から増加しました。メリーランド州が30番目の州となりました(Public Citizen, 2026)。そのペースは2025年にはさらに速く、政治的ディープフェイクを規制する州の数は6カ月間で21州から28州に増加しました(R Street Institute, 2025)。連邦およびEUの透明性要件も並行して導入されつつあります。
| 指標 | 値 | 出典 |
|---|---|---|
| 選挙ディープフェイク法を持つ米国の州(2026年5月) | 30 | Public Citizen, 2026 |
| 2026年初めにこうした法律を持っていた米国の州 | 28 | Public Citizen, 2026 |
| 30番目に保護規定を制定した州 | Maryland | Public Citizen, 2026 |
| 政治的ディープフェイクを規制する州、2025年1月から7月 | 21 to 28 | R Street Institute, 2025 |
| EU AI Act第50条の透明性規則の適用開始日 | 2 August 2026 | EU AI Act, Article 50 |
| California AI Transparency Act(AB 853)署名 | 13 October 2025 | Carnegie Endowment, 2026 |
| Pennsylvania Act 35ディープフェイク法の署名 | 7 July 2025 | Resemble AI, 2025 |
| Washington州の偽造デジタル肖像法の施行 | 27 July 2025 | Resemble AI, 2025 |
文脈補足:Public Citizenの報告によると、これらの措置は制定したすべての州において超党派の支持を得て可決されており、そのほとんどは禁止ではなく、AI生成の政治コンテンツに対する免責表示に依拠しています。
まとめ:数字で見る選挙のディープフェイク
| 指標 | 値 | 出典 |
|---|---|---|
| 30カ国で追跡された選挙ディープフェイク | 133 | German Marshall Fund, 2024-2026 |
| 重大なディープフェイクキャンペーンがあった選挙 | 39% | German Marshall Fund, 2024-2026 |
| 2021年以降、選挙ディープフェイクの影響を受けた国 | 38 | Surfshark, 2025 |
| 影響を受けた国の人口 | 3.8 billion | Surfshark, 2025 |
| 政治的動機によるディープフェイクインシデント、2025年第3四半期 | 482 | Resemble AI, 2025 |
| 選挙ディープフェイクのうち音声が占める割合 | 69% | German Marshall Fund, 2024-2026 |
| ソーシャルメディア経由で拡散したインシデント | 92% | Surfshark, 2025 |
| AIによる選挙偽情報を強く懸念する米国成人 | 57% | Pew Research Center, 2024 |
| テック企業がプラットフォームの悪用を防止すると確信 | 20% | Pew Research Center, 2024 |
| オンラインでの真偽の見分けに不安(世界) | 58% | Reuters Institute, 2025 |
| 本物と偽物の見分けに非常に自信があるカリフォルニア州民 | 8% | Carnegie Endowment, 2026 |
| NHのディープフェイクによるバイデン氏ロボコールへのFCCの罰金 | $6 million | FCC, 2024 |
| そのロボコールの対象となった有権者 | up to 25,000 | FCC, 2024 |
| 確認されたバイラルなAI誤情報事例、2024年英国選挙 | 16 | Alan Turing Institute, 2024 |
| ディープフェイクだった選挙関連画像、カナダ2025年 | 5.86% | ACM Web Conference, 2026 |
| 安価な偽装対AIディープフェイクの使用比率、2024年 | 7x more | Knight First Amendment Institute, 2024 |
| 選挙ディープフェイク法を持つ米国の州(2026年5月) | 30 | Public Citizen, 2026 |
| EU AI Actの透明性規則の適用開始日 | 2 August 2026 | EU AI Act, Article 50 |
手法と情報源
データは2024年から2026年にかけて発表された一次情報源を優先して収集し、二次的な集計サイトではなく、それぞれの数値を元のトラッカー、調査、提出書類、裁判記録、または査読済み研究にまで遡って確認しています。引用した情報源:
- German Marshall Fund, Spitting Images: Tracking Deepfakes and Generative AI in Elections(トップラインデータ、2024-2026年)
- Surfshark Research, Election-Related Deepfakes(2025年)
- Resemble AI, Q3 2025 Deepfake Incident Report(2025年)
- Knight First Amendment Institute, We Looked at 78 Election Deepfakes(2024年)
- Political Deepfakes Incidents Database(Walker, Schiff and Schiff, Purdue University / AAAI ICWSM, 2024年)
- Pew Research Center, Concern Over the Impact of AI on the 2024 Presidential Campaign(2024年)
- Reuters Institute for the Study of Journalism, Digital News Report 2025
- Carnegie Endowment for International Peace, AI and Democracy: Mapping the Intersections(2026年)
- World Economic Forum, Global Risks Report 2025
- Federal Communications Commission, FCC Issues $6M Fine for N.H. Robocalls(2024年)
- New Hampshire Public Radio, Kramer acquitted on robocall charges(2025年)
- Alan Turing Institute, No evidence AI disinformation or deepfakes impacted UK, French or European elections(2024年)
- ACM Web Conference 2026, Deepfakes in the 2025 Canadian Election: Prevalence, Partisanship, and Platform Dynamics
- Public Citizen, 30 States Now Have Laws to Regulate Election Deepfakes(2026年)
- R Street Institute, Update on 2025 State Legislation to Regulate Election Deepfakes(2025年)
- OECD.AI Incidents Monitor, AI-driven social media interference annuls Romania presidential vote(2024年)
- EU AI Act、第50条(AI生成コンテンツに関する透明性義務)
Data watch: これらの情報源のいくつかは予測可能な周期で更新されます。German Marshall FundのSpitting Imagesトラッカーおよび Public Citizenの州法トラッカーは継続的に更新されます。Resemble AIは四半期ごとにインシデントレポートを発表しており(次は2025年第4四半期分が予想されます)、Reuters Institute Digital News ReportとWorld Economic Forum Global Risks Reportはいずれも毎年1月中旬と6月に発表されます。Pew Research Centerは米国の主要な投票の前後に選挙とAIに関する調査を定期的に実施しており、2026年の中間選挙に関する新しいデータが発表される可能性が高いです。2026年11月の米国中間選挙を前に、30州という立法件数はさらに増加すると見込まれます。
最終更新:2026年7月10日。
このページは、新しいデータが発表されるたびに四半期ごとに見直し、更新しています。