Deepfake muncul dalam 39 persen pemilu dunia yang diselenggarakan sejak musim gugur 2023, dengan 133 insiden tercatat di 30 negara (German Marshall Fund, Spitting Images 2024-2026). Skalanya bahkan lebih luas menurut hitungan lain: 38 negara telah menghadapi deepfake pemilu sejak 2021, memengaruhi total populasi 3.8 miliar orang (Surfshark, 2025). Kecemasan pemilih meningkat sejalan dengan itu, dengan 57 persen orang dewasa AS sangat atau amat khawatir bahwa AI akan digunakan untuk merekayasa konten pemilu (Pew Research Center, 2024). Namun, tindakan penegakan hukum yang paling banyak dikutip hingga saat ini, denda FCC sebesar 6 juta dolar atas robocall Biden bersuara kloningan, berdampingan dengan temuan akademis bahwa tidak ada pemilu 2024 yang menunjukkan dampak deepfake yang terukur terhadap hasil (Alan Turing Institute, 2024). Analisis ini menggabungkan data dari German Marshall Fund, Pew Research Center, Surfshark, dan 13 sumber utama lain menjadi angka-angka deepfake pemilu yang penting untuk 2026.
TL;DR
- 133 deepfake pemilu terlacak di 30 negara sejak musim gugur 2023 (German Marshall Fund, 2024-2026).
- 39 persen pemilu yang diselenggarakan sejak musim gugur 2023 menampilkan kampanye deepfake yang signifikan (German Marshall Fund, 2024-2026).
- 38 negara telah menghadapi deepfake pemilu sejak 2021, memengaruhi 3.8 miliar orang (Surfshark, 2025).
- 482 insiden deepfake bermotif politik tercatat hanya pada Q3 2025 (Resemble AI, 2025).
- Audio adalah format deepfake pemilu paling umum, muncul di 69 persen insiden yang terlacak (German Marshall Fund, 2024-2026).
- 57 persen orang dewasa AS sangat atau amat khawatir AI akan menyebarkan informasi pemilu palsu (Pew Research Center, 2024).
- 58 persen orang di seluruh dunia khawatir membedakan berita asli dari berita palsu secara daring (Reuters Institute, 2025).
- Denda FCC untuk robocall deepfake Biden di New Hampshire: 6 juta dolar (FCC, 2024).
- Kasus disinformasi AI viral yang terkonfirmasi dalam pemilu umum Inggris 2024: 16 (Alan Turing Institute, 2024).
- Deepfake menyumbang 5.86 persen gambar pemilu dalam studi tentang pemilu Kanada 2025 (ACM Web Conference, 2026).
- Negara bagian AS dengan undang-undang yang mengatur deepfake pemilu per Mei 2026: 30 (Public Citizen, 2026).
- Cheap fakes digunakan tujuh kali lebih sering dibanding deepfake AI dalam pemilu 2024 (Knight First Amendment Institute, 2024).
1. Berapa Banyak Deepfake Pemilu yang Benar-Benar Terlacak
Angka utama lebih kecil dibanding kekhawatiran yang muncul, tetapi angkanya terus meningkat dan bersifat global. Pelacak bernama dengan metodologi publik memberikan gambaran penyebaran global yang stabil, bukan satu banjir tunggal. German Marshall Fund mencatat 133 deepfake pemilu di 30 negara, dan menemukan 39 persen pemilu sejak musim gugur 2023 memiliki kampanye deepfake yang signifikan (German Marshall Fund, 2024-2026). Hitungan kuartalan Resemble AI menambahkan detail lebih rinci, mencatat 482 insiden bermotif politik pada Q3 2025 dari total 2,031 insiden terverifikasi, lonjakan 317 persen dari kuartal sebelumnya. Yang krusial, ketika Knight First Amendment Institute meninjau 78 kasus dalam WIRED AI Elections Project, mereka tidak menemukan niat menipu pada 39 di antaranya, sekitar separuhnya. Untuk gambaran media sintetik yang lebih luas, lihat rangkuman statistik deepfake kami.
| Metrik | Nilai | Sumber |
|---|---|---|
| Deepfake pemilu terlacak di 30 negara (sejak musim gugur 2023) | 133 | German Marshall Fund, 2024-2026 |
| Pemilu dengan kampanye deepfake yang signifikan | 39% | German Marshall Fund, 2024-2026 |
| Negara yang terkena deepfake pemilu sejak 2021 (3.8B orang) | 38 | Surfshark, 2025 |
| Negara dengan pemilu sejak 2023 yang mengalami deepfake | 33 of 87 | Surfshark, 2025 |
| Insiden deepfake bermotif politik, Q3 2025 | 482 | Resemble AI, 2025 |
| Instansi penggunaan AI yang terlacak di seluruh pemilu global 2024 | 78 | Knight First Amendment Institute, 2024 |
| Kasus terlacak 2024 tanpa niat menipu | 39 of 78 | Knight First Amendment Institute, 2024 |
| Berapa kali cheap fakes melampaui deepfake AI pada 2024 | 7x | Knight First Amendment Institute, 2024 |
Konteks: Political Deepfakes Incidents Database yang berbasis di Purdue mengkatalogkan 114 insiden yang signifikan secara politik sejak 2017, menunjukkan bahwa media politik sintetik telah ada sebelum gelombang AI generatif saat ini (AAAI, 2024).
2. Format dan Penyebaran: Bagaimana Deepfake Pemilu Menyebar
Campuran format ini membalikkan asumsi umum bahwa deepfake sebagian besar berupa video palsu yang mulus. Dalam dataset German Marshall Fund, audio adalah format tunggal paling umum, hadir di 69 persen insiden yang terlacak, mengungguli video di 55 persen dan gambar di 20 persen (German Marshall Fund, 2024-2026). Audio murah untuk diproduksi, sulit dibantah secara visual, dan menyebar dengan baik lewat saluran suara. Distribusi condong sangat besar ke platform sosial terbuka, dengan aplikasi pesan pribadi menjadi vektor kedua yang mencolok, yang mempersulit penghapusan dan pengukuran.
| Metrik | Nilai | Sumber |
|---|---|---|
| Deepfake pemilu menggunakan audio | 69% | German Marshall Fund, 2024-2026 |
| Deepfake pemilu menggunakan video | 55% | German Marshall Fund, 2024-2026 |
| Deepfake pemilu menggunakan gambar | 20% | German Marshall Fund, 2024-2026 |
| Insiden yang menyebar lewat media sosial | 92% | Surfshark, 2025 |
| Insiden yang menyebar lewat aplikasi pesan | 32% | Surfshark, 2025 |
| Insiden yang menyebar lewat iklan bertarget daring | 32% | Surfshark, 2025 |
| Pangsa platform: X / Facebook / WhatsApp | 53% / 39% / 29% | Surfshark, 2025 |
| Perkiraan belanja konten AI, pemilu India 2024 | $50 million | Surfshark, 2025 |
Anomali: panggilan telepon dan robocall hanya menyumbang 5 persen saluran distribusi (Surfshark, 2025), porsi kecil yang tetap menghasilkan kasus penegakan hukum AS paling berdampak hingga saat ini.
3. Kepercayaan Pemilih dan Kekhawatiran terhadap Konten Pemilu Berbasis AI
Kekhawatiran publik jauh melampaui kerugian yang terdokumentasi, dan kesenjangan ini sendiri merupakan temuan penting. 57 persen orang dewasa AS mengatakan kepada Pew bahwa mereka sangat atau amat khawatir AI akan digunakan untuk membuat dan menyebarkan informasi pemilu palsu, dengan perbedaan hampir tidak ada antar partai: 56 persen Partai Republik dan 58 persen Partai Demokrat (Pew Research Center, 2024). Hanya 20 persen yang menyatakan yakin platform besar akan mencegah penyalahgunaan. Secara global, Reuters Institute menemukan 58 persen khawatir membedakan berita asli dari berita palsu secara daring, dan responden menilai influencer dan politisi setara sebagai sumber teratas informasi palsu.
| Metrik | Nilai | Sumber |
|---|---|---|
| Orang dewasa AS sangat khawatir AI akan memalsukan informasi pemilu | 57% | Pew Research Center, 2024 |
| Mengatakan AI akan digunakan terutama untuk tujuan buruk / terutama baik | 39% / 5% | Pew Research Center, 2024 |
| Yakin perusahaan teknologi akan mencegah penyalahgunaan platform | 20% | Pew Research Center, 2024 |
| Khawatir membedakan berita asli dari berita palsu secara daring | 58% | Reuters Institute, 2025 |
| Menilai influencer / politisi sebagai ancaman informasi palsu teratas | 47% / 47% | Reuters Institute, 2025 |
| Warga California sangat yakin membedakan konten asli dari palsu | 8% | Carnegie Endowment, 2026 |
| Warga California sangat khawatir tentang deepfake dalam pemilu | 57% | Carnegie Endowment, 2026 |
| Peringkat mis/disinformasi di antara risiko global jangka pendek | No. 1, 2nd year | World Economic Forum, 2025 |
Konteks: survei Pew dilakukan terhadap 9,720 orang dewasa AS antara 26 Agustus dan 2 September 2024, dan World Economic Forum kini menempatkan misinformasi dan disinformasi sebagai risiko global jangka pendek nomor satu selama dua tahun berturut-turut.
4. Deepfake Suara dan Robocall Pemilu
Suara adalah area di mana media pemilu sintetik memicu respons regulasi paling tajam. FCC menjatuhkan denda 6 juta dolar terhadap operator politik Steve Kramer atas robocall Januari 2024 yang menggunakan suara kloningan Presiden Biden yang mendesak pemilih New Hampshire untuk melewatkan pemilihan pendahuluan, panggilan yang menjangkau hingga 25,000 orang (FCC, 2024). Operator yang menyalurkan panggilan tersebut, Lingo Telecom, menyetujui denda perdata terpisah sebesar 1 juta dolar. Juri negara bagian New Hampshire kemudian membebaskan Kramer dari tuduhan pidana penekanan suara pemilih dan peniruan identitas, menegaskan betapa belum jelasnya gambaran hukum ini. Untuk konteks penipuan telepon yang lebih luas, lihat statistik robocall dan statistik vishing kami.
| Metrik | Nilai | Sumber |
|---|---|---|
| Denda FCC terhadap Steve Kramer (robocall NH) | $6 million | FCC, 2024 |
| Pemilih New Hampshire yang ditargetkan robocall deepfake | up to 25,000 | FCC, 2024 |
| Denda perdata Lingo Telecom | $1 million | FCC, 2024 |
| Pangsa audio dari deepfake pemilu yang terlacak | 69% | German Marshall Fund, 2024-2026 |
| Pangsa robocall dalam saluran distribusi deepfake | 5% | Surfshark, 2025 |
| Putusan juri tuduhan pidana negara bagian terhadap Kramer (Juni 2025) | acquitted | NHPR, 2025 |
Konteks: FCC bertindak dalam hitungan minggu setelah panggilan tersebut dan putusan lanjutannya menegaskan bahwa suara hasil AI dalam robocall termasuk dalam hukum telemarketing yang berlaku, tindakan federal pertama semacam itu yang terkait dengan deepfake pemilu.
5. Apa Kata Bukti tentang Dampak di Dunia Nyata
Dampak elektoral yang terdokumentasi sulit ditemukan, bahkan ketika jumlah insiden terus meningkat. Alan Turing Institute mengidentifikasi hanya 16 kasus disinformasi AI viral yang terkonfirmasi dalam pemilu umum Inggris 2024 dan 11 kasus di seluruh pemilu UE dan Prancis gabungan, tanpa bukti bahwa satu pun mengubah hasil (Alan Turing Institute, 2024). Pengukuran akademis paling terperinci, sebuah studi peer-review tentang pemilu federal Kanada 2025, menemukan deepfake menyumbang 5.86 persen gambar pemilu namun hanya menarik 0.52 persen tampilan di X, dan hampir separuhnya bersifat tidak berbahaya atau non-politik. Deteksi tetap menjadi kendala dalam mengukur sisanya; lihat statistik deteksi deepfake kami.
| Metrik | Nilai | Sumber |
|---|---|---|
| Kasus disinformasi AI viral terkonfirmasi, pemilu umum Inggris 2024 | 16 | Alan Turing Institute, 2024 |
| Kasus disinformasi AI viral terkonfirmasi, pemilu UE + Prancis | 11 | Alan Turing Institute, 2024 |
| Dampak terukur pada hasil Inggris/Prancis/UE | none found | Alan Turing Institute, 2024 |
| Gambar pemilu yang merupakan deepfake, Kanada 2025 (dari 187,778 unggahan) | 5.86% | ACM Web Conference, 2026 |
| Tingkat deepfake di X vs Bluesky, Kanada 2025 | 7.9% vs 2.2% | ACM Web Conference, 2026 |
| Berbagi gambar sintetik: akun condong kanan vs condong kiri | 9.24% vs 3.87% | ACM Web Conference, 2026 |
| Deepfake sebagai pangsa seluruh tampilan di X, Kanada 2025 | 0.52% | ACM Web Conference, 2026 |
| Deepfake terdeteksi yang tidak berbahaya atau non-politik | 49.41% | ACM Web Conference, 2026 |
Konteks: pengecualian paling jelas adalah Romania, di mana Mahkamah Konstitusi membatalkan putaran pertama pemilu presiden 2024 pada 6 Desember 2024, dengan alasan amplifikasi tidak autentik yang terkoordinasi dan konten hasil AI, pembatalan pertama semacam itu di UE (OECD.AI incident database, 2024).
6. Undang-Undang dan Regulasi Deepfake Pemilu
Pembuatan undang-undang telah dipercepat secara tajam, sebagian besar melalui aturan pengungkapan (disclosure) alih-alih larangan langsung, mencerminkan batasan kebebasan berbicara. Per Mei 2026, 30 negara bagian AS telah mengesahkan undang-undang yang mengatur deepfake dalam komunikasi politik, naik dari 28 pada awal tahun, dengan Maryland menjadi negara bagian ke-30 (Public Citizen, 2026). Lajunya bahkan lebih cepat pada 2025, ketika jumlah negara bagian yang mengatur deepfake politik naik dari 21 menjadi 28 dalam enam bulan (R Street Institute, 2025). Persyaratan transparansi federal dan UE datang secara paralel.
| Metrik | Nilai | Sumber |
|---|---|---|
| Negara bagian AS dengan undang-undang deepfake pemilu (Mei 2026) | 30 | Public Citizen, 2026 |
| Negara bagian AS dengan undang-undang tersebut pada awal 2026 | 28 | Public Citizen, 2026 |
| Negara bagian ke-30 yang mengesahkan perlindungan | Maryland | Public Citizen, 2026 |
| Negara bagian yang mengatur deepfake politik, Januari hingga Juli 2025 | 21 to 28 | R Street Institute, 2025 |
| Berlakunya aturan transparansi Pasal 50 EU AI Act | 2 August 2026 | EU AI Act, Article 50 |
| Penandatanganan California AI Transparency Act (AB 853) | 13 October 2025 | Carnegie Endowment, 2026 |
| Penandatanganan undang-undang deepfake Pennsylvania Act 35 | 7 July 2025 | Resemble AI, 2025 |
| Berlakunya undang-undang wajah digital palsu Washington State | 27 July 2025 | Resemble AI, 2025 |
Konteks: Public Citizen melaporkan langkah-langkah ini disahkan dengan dukungan bipartisan di setiap negara bagian yang mengesahkannya, dan sebagian besar mengandalkan disclaimer pada konten politik hasil AI, bukan larangan.
Ringkasan: Deepfake dalam Pemilu Berdasarkan Angka
| Metrik | Nilai | Sumber |
|---|---|---|
| Deepfake pemilu terlacak di 30 negara | 133 | German Marshall Fund, 2024-2026 |
| Pemilu dengan kampanye deepfake yang signifikan | 39% | German Marshall Fund, 2024-2026 |
| Negara yang terkena deepfake pemilu sejak 2021 | 38 | Surfshark, 2025 |
| Populasi di negara yang terdampak | 3.8 billion | Surfshark, 2025 |
| Insiden deepfake bermotif politik, Q3 2025 | 482 | Resemble AI, 2025 |
| Pangsa audio dari deepfake pemilu | 69% | German Marshall Fund, 2024-2026 |
| Insiden yang menyebar lewat media sosial | 92% | Surfshark, 2025 |
| Orang dewasa AS sangat khawatir tentang pemalsuan pemilu berbasis AI | 57% | Pew Research Center, 2024 |
| Yakin perusahaan teknologi mencegah penyalahgunaan platform | 20% | Pew Research Center, 2024 |
| Khawatir membedakan berita asli vs palsu daring (global) | 58% | Reuters Institute, 2025 |
| Warga California sangat yakin membedakan asli dari palsu | 8% | Carnegie Endowment, 2026 |
| Denda FCC untuk robocall deepfake Biden di NH | $6 million | FCC, 2024 |
| Pemilih yang ditargetkan robocall tersebut | up to 25,000 | FCC, 2024 |
| Kasus disinformasi AI viral terkonfirmasi, pemilu Inggris 2024 | 16 | Alan Turing Institute, 2024 |
| Gambar pemilu yang merupakan deepfake, Kanada 2025 | 5.86% | ACM Web Conference, 2026 |
| Penggunaan cheap fakes vs deepfake AI, 2024 | 7x more | Knight First Amendment Institute, 2024 |
| Negara bagian AS dengan undang-undang deepfake pemilu (Mei 2026) | 30 | Public Citizen, 2026 |
| Berlakunya aturan transparansi EU AI Act | 2 August 2026 | EU AI Act, Article 50 |
Metodologi dan Sumber
Data dikumpulkan dengan memprioritaskan sumber utama yang diterbitkan pada 2024-2026, melacak setiap angka kembali ke tracker asli, survei, pengajuan, catatan pengadilan, atau studi peer-review, bukan agregator sekunder. Sumber yang dikutip:
- German Marshall Fund, Spitting Images: Tracking Deepfakes and Generative AI in Elections (topline data, 2024-2026)
- Surfshark Research, Election-Related Deepfakes (2025)
- Resemble AI, Q3 2025 Deepfake Incident Report (2025)
- Knight First Amendment Institute, We Looked at 78 Election Deepfakes (2024)
- Political Deepfakes Incidents Database (Walker, Schiff and Schiff, Purdue University / AAAI ICWSM, 2024)
- Pew Research Center, Concern Over the Impact of AI on the 2024 Presidential Campaign (2024)
- Reuters Institute for the Study of Journalism, Digital News Report 2025
- Carnegie Endowment for International Peace, AI and Democracy: Mapping the Intersections (2026)
- World Economic Forum, Global Risks Report 2025
- Federal Communications Commission, FCC Issues $6M Fine for N.H. Robocalls (2024)
- New Hampshire Public Radio, Kramer acquitted on robocall charges (2025)
- Alan Turing Institute, No evidence AI disinformation or deepfakes impacted UK, French or European elections (2024)
- ACM Web Conference 2026, Deepfakes in the 2025 Canadian Election: Prevalence, Partisanship, and Platform Dynamics
- Public Citizen, 30 States Now Have Laws to Regulate Election Deepfakes (2026)
- R Street Institute, Update on 2025 State Legislation to Regulate Election Deepfakes (2025)
- OECD.AI Incidents Monitor, AI-driven social media interference annuls Romania presidential vote (2024)
- EU AI Act, Pasal 50 (kewajiban transparansi untuk konten hasil AI)
Data watch: beberapa sumber ini diperbarui dalam siklus yang dapat diprediksi. Pelacak Spitting Images milik German Marshall Fund dan pelacak undang-undang negara bagian milik Public Citizen diperbarui secara berkelanjutan; Resemble AI menerbitkan laporan insiden kuartalan (Q4 2025 diperkirakan terbit berikutnya); Reuters Institute Digital News Report dan World Economic Forum Global Risks Report keduanya terbit tahunan pada pertengahan Januari dan Juni; Pew Research Center menjalankan survei AI-pemilu berulang di sekitar pemilu besar AS, dengan data midterm 2026 yang baru kemungkinan akan tersedia. Jumlah undang-undang 30 negara bagian diperkirakan akan terus bergerak menjelang midterm AS November 2026.
Terakhir diperbarui: 10 Juli 2026.
Kami meninjau dan memperbarui halaman ini setiap tiga bulan seiring terbitnya data baru.