2023년 가을 이후 실시된 전 세계 선거의 39%에서 딥페이크가 등장했으며, 30개국에서 133건의 사건이 기록되었습니다(German Marshall Fund, Spitting Images 2024-2026). 다른 집계에 따르면 그 규모는 훨씬 더 넓습니다. 2021년 이후 38개국이 선거 딥페이크에 직면했으며, 총 38억 명에게 영향을 미쳤습니다(Surfshark, 2025). 유권자들의 불안도 이에 발맞춰 커졌으며, 미국 성인의 57%가 AI가 선거 콘텐츠를 조작하는 데 사용될 것을 매우 또는 극도로 우려하고 있습니다(Pew Research Center, 2024). 그러나 지금까지 가장 많이 인용된 집행 조치인, 복제된 음성으로 만든 바이든 로보콜에 대한 FCC의 600만 달러 벌금은, 2024년 어떤 선거에서도 딥페이크가 결과에 측정 가능한 영향을 미쳤다는 증거가 없다는 학술적 연구 결과와 나란히 존재합니다(Alan Turing Institute, 2024). 이 분석은 German Marshall Fund, Pew Research Center, Surfshark 및 13개의 다른 1차 자료의 데이터를 종합해 2026년에 중요한 선거 딥페이크 수치를 정리한 것입니다.
TL;DR
- 2023년 가을 이후 30개국에서 133건의 선거 딥페이크가 추적되었다(German Marshall Fund, 2024-2026).
- 2023년 가을 이후 실시된 선거의 39%에서 상당한 딥페이크 캠페인이 있었다(German Marshall Fund, 2024-2026).
- 2021년 이후 38개국이 선거 딥페이크에 직면했으며, 38억 명에게 영향을 미쳤다(Surfshark, 2025).
- 2025년 3분기에만 482건의 정치적 동기에 의한 딥페이크 사건이 기록되었다(Resemble AI, 2025).
- 오디오는 가장 흔한 선거 딥페이크 형식으로, 추적된 사례의 69%에 등장한다(German Marshall Fund, 2024-2026).
- 미국 성인의 57%가 AI가 가짜 선거 정보를 퍼뜨릴 것을 매우 또는 극도로 우려한다(Pew Research Center, 2024).
- 전 세계적으로 58%의 사람들이 온라인에서 진짜 뉴스와 가짜 뉴스를 구별하는 것에 대해 우려한다(Reuters Institute, 2025).
- 뉴햄프셔 딥페이크 바이든 로보콜에 대한 FCC 벌금: 600만 달러(FCC, 2024).
- 2024년 영국 총선에서 확인된 바이럴 AI 허위정보 사례: 16건(Alan Turing Institute, 2024).
- 2025년 캐나다 선거 연구에서 딥페이크가 선거 이미지의 5.86%를 차지했다(ACM Web Conference, 2026).
- 2026년 5월 기준 선거 딥페이크를 규제하는 법률을 가진 미국 주: 30개(Public Citizen, 2026).
- 2024년 선거에서 저가형 조작이 AI 딥페이크보다 7배 더 자주 사용되었다(Knight First Amendment Institute, 2024).
1. 실제로 추적된 선거 딥페이크 건수
헤드라인 수치는 우려가 시사하는 것보다 작지만, 증가하고 있으며 전 세계적입니다. 공개된 방법론을 갖춘 명명된 트래커들은 한 번의 홍수가 아니라 꾸준하고 전 세계적인 확산이라는 그림으로 수렴합니다. German Marshall Fund는 30개국에서 133건의 선거 딥페이크를 기록했으며, 2023년 가을 이후 선거의 39%에서 상당한 딥페이크 캠페인이 있었다는 사실을 발견했습니다(German Marshall Fund, 2024-2026). Resemble AI의 분기별 집계는 더 세밀한 정보를 더해주는데, 2025년 3분기에 검증된 전체 사건 2,031건 중 482건이 정치적 동기에 의한 것으로 기록되었으며, 이는 이전 분기 대비 317% 급증한 수치입니다. 결정적으로, Knight First Amendment Institute가 WIRED AI Elections Project의 78건 사례를 검토했을 때, 그중 39건, 대략 절반에서 기만적 의도가 발견되지 않았습니다. 더 넓은 합성 미디어 전반에 대해서는 저희의 딥페이크 통계 모음을 참고하세요.
| 지표 | 값 | 출처 |
|---|---|---|
| 30개국에서 추적된 선거 딥페이크(2023년 가을 이후) | 133 | German Marshall Fund, 2024-2026 |
| 상당한 딥페이크 캠페인이 있었던 선거 | 39% | German Marshall Fund, 2024-2026 |
| 2021년 이후 선거 딥페이크의 영향을 받은 국가(38억 명) | 38 | Surfshark, 2025 |
| 2023년 이후 선거를 치른 국가 중 딥페이크가 발생한 국가 | 33 of 87 | Surfshark, 2025 |
| 정치적 동기에 의한 딥페이크 사건, 2025년 3분기 | 482 | Resemble AI, 2025 |
| 2024년 전 세계 선거에서 추적된 AI 사용 사례 | 78 | Knight First Amendment Institute, 2024 |
| 2024년 추적된 사례 중 기만적 의도가 없었던 사례 | 39 of 78 | Knight First Amendment Institute, 2024 |
| 2024년 저가형 조작이 AI 딥페이크를 앞지른 배수 | 7x | Knight First Amendment Institute, 2024 |
맥락 참고: Purdue 대학 기반의 Political Deepfakes Incidents Database는 2017년까지 거슬러 올라가는 114건의 정치적으로 중요한 사건을 목록화했으며, 이는 합성 정치 미디어가 현재의 생성형 AI 물결보다 앞서 존재했음을 보여줍니다(AAAI, 2024).
2. 형식과 확산: 선거 딥페이크가 퍼지는 방식
형식 구성은 딥페이크가 주로 정교한 가짜 동영상이라는 일반적인 통념을 뒤엎습니다. German Marshall Fund의 데이터셋에서 오디오는 단연 가장 흔한 형식으로, 추적된 사례의 69%에서 나타나며, 동영상(55%)과 이미지(20%)를 앞섭니다(German Marshall Fund, 2024-2026). 오디오는 제작 비용이 저렴하고, 시각적으로 반박하기 어려우며, 음성 채널을 통해 잘 퍼집니다. 배포는 압도적으로 개방형 소셜 플랫폼에 치우쳐 있으며, 비공개 메시징 앱이 눈에 띄는 두 번째 경로로 작용해 삭제와 측정을 복잡하게 만듭니다.
| 지표 | 값 | 출처 |
|---|---|---|
| 오디오를 사용하는 선거 딥페이크 | 69% | German Marshall Fund, 2024-2026 |
| 동영상을 사용하는 선거 딥페이크 | 55% | German Marshall Fund, 2024-2026 |
| 이미지를 사용하는 선거 딥페이크 | 20% | German Marshall Fund, 2024-2026 |
| 소셜미디어를 통해 확산된 사건 | 92% | Surfshark, 2025 |
| 메시징 앱을 통해 확산된 사건 | 32% | Surfshark, 2025 |
| 온라인 타겟 광고를 통해 확산된 사건 | 32% | Surfshark, 2025 |
| 플랫폼별 비중: X / Facebook / WhatsApp | 53% / 39% / 29% | Surfshark, 2025 |
| 인도 2024년 선거의 추정 AI 콘텐츠 지출 | $50 million | Surfshark, 2025 |
이상치 참고: 전화 통화와 로보콜은 배포 채널의 단 5%만을 차지했지만(Surfshark, 2025), 이 작은 비중이 지금까지 가장 중대한 미국 집행 사건을 낳았습니다.
3. 유권자 신뢰와 AI 선거 콘텐츠에 대한 우려
대중의 우려는 문서화된 피해보다 훨씬 앞서 있으며, 이 격차 자체가 하나의 발견입니다. 미국 성인의 57%가 AI가 가짜 선거 정보를 만들고 배포하는 데 사용될 것을 매우 또는 극도로 우려한다고 Pew에 답했으며, 당파 간 차이는 거의 없었습니다: 공화당 지지자 56%, 민주당 지지자 58%(Pew Research Center, 2024). 주요 플랫폼이 오용을 막을 것이라고 확신한다고 답한 비율은 20%에 불과했습니다. 전 세계적으로 Reuters Institute는 58%가 온라인에서 진짜 뉴스와 가짜 뉴스를 구별하는 것에 대해 우려한다는 사실을 발견했으며, 응답자들은 인플루언서와 정치인을 허위정보의 최상위 출처로 동등하게 평가했습니다.
| 지표 | 값 | 출처 |
|---|---|---|
| AI가 선거 정보를 조작할 것을 매우 우려하는 미국 성인 | 57% | Pew Research Center, 2024 |
| AI가 주로 나쁜 목적 / 주로 좋은 목적으로 사용될 것이라는 응답 | 39% / 5% | Pew Research Center, 2024 |
| 대형 기술기업이 플랫폼 오용을 막을 것이라 확신 | 20% | Pew Research Center, 2024 |
| 온라인에서 진짜와 가짜 뉴스 구별에 대한 우려 | 58% | Reuters Institute, 2025 |
| 인플루언서 / 정치인을 허위정보 최대 위협으로 평가 | 47% / 47% | Reuters Institute, 2025 |
| 진짜와 가짜 콘텐츠 구별에 매우 자신 있는 캘리포니아 주민 | 8% | Carnegie Endowment, 2026 |
| 선거에서의 딥페이크를 매우 우려하는 캘리포니아 주민 | 57% | Carnegie Endowment, 2026 |
| 단기 글로벌 리스크 중 허위정보/오정보의 순위 | No. 1, 2nd year | World Economic Forum, 2025 |
맥락 참고: Pew 설문조사는 2024년 8월 26일부터 9월 2일 사이에 미국 성인 9,720명을 대상으로 실시되었으며, World Economic Forum은 이제 허위정보와 오정보를 2년 연속 최대 단기 글로벌 리스크로 선정했습니다.
4. 음성 딥페이크와 선거 로보콜
음성은 합성 선거 미디어가 가장 강력한 규제 대응을 이끌어낸 영역입니다. FCC는 정치 활동가 Steve Kramer에게 600만 달러의 벌금을 부과했습니다. 이는 2024년 1월 바이든 대통령의 복제된 음성을 사용해 뉴햄프셔 유권자들에게 예비선거를 건너뛰라고 촉구한 로보콜에 대한 것으로, 이 통화는 최대 25,000명에게 도달했습니다(FCC, 2024). 이 통화를 전송한 통신사업자 Lingo Telecom은 별도로 100만 달러의 민사 벌금에 합의했습니다. 이후 뉴햄프셔주 배심원단은 유권자 억압 및 신원 사칭에 관한 형사 혐의에 대해 Kramer에게 무죄를 선고했으며, 이는 법적 상황이 여전히 얼마나 불확실한지를 보여줍니다. 더 넓은 전화 사기 맥락에 대해서는 저희의 로보콜 통계와 비싱 통계를 참고하세요.
| 지표 | 값 | 출처 |
|---|---|---|
| Steve Kramer에 대한 FCC 벌금(NH 로보콜) | $6 million | FCC, 2024 |
| 딥페이크 로보콜의 대상이 된 뉴햄프셔 유권자 수 | up to 25,000 | FCC, 2024 |
| Lingo Telecom의 민사 벌금 | $1 million | FCC, 2024 |
| 추적된 선거 딥페이크 중 오디오 비중 | 69% | German Marshall Fund, 2024-2026 |
| 딥페이크 배포 채널 중 로보콜 비중 | 5% | Surfshark, 2025 |
| Kramer의 주 형사 혐의에 대한 배심원 평결(2025년 6월) | acquitted | NHPR, 2025 |
맥락 참고: FCC는 통화가 있은 지 몇 주 만에 조치를 취했으며, 이후 판결에서 로보콜의 AI 생성 음성이 기존 텔레마케팅법의 적용을 받는다는 점을 명확히 했습니다. 이는 선거 딥페이크와 관련된 최초의 연방 조치입니다.
5. 실제 영향에 대해 증거가 말하는 것
사건 건수가 증가하고 있음에도 불구하고 문서화된 선거 영향은 찾기 어려웠습니다. Alan Turing Institute는 2024년 영국 총선에서 확인된 바이럴 AI 허위정보 사례를 단 16건, EU 및 프랑스 선거를 합쳐 11건 확인했으며, 이들 중 어느 것도 결과를 바꿨다는 증거는 없었습니다(Alan Turing Institute, 2024). 가장 세밀한 학술적 측정치인, 2025년 캐나다 연방선거에 대한 동료심사 연구는 딥페이크가 선거 이미지의 5.86%를 차지했지만 X에서 조회수의 단 0.52%만을 얻었으며, 거의 절반은 무해하거나 비정치적인 것이었다는 사실을 발견했습니다. 나머지를 측정하는 데 있어 여전히 제약이 되는 것은 탐지 기술입니다. 저희의 딥페이크 탐지 통계를 참고하세요.
| 지표 | 값 | 출처 |
|---|---|---|
| 확인된 바이럴 AI 허위정보 사례, 2024년 영국 총선 | 16 | Alan Turing Institute, 2024 |
| 확인된 바이럴 AI 허위정보 사례, EU + 프랑스 선거 | 11 | Alan Turing Institute, 2024 |
| 영국/프랑스/EU 결과에 대한 측정 가능한 영향 | none found | Alan Turing Institute, 2024 |
| 딥페이크였던 선거 이미지, 캐나다 2025년(187,778건의 게시물 중) | 5.86% | ACM Web Conference, 2026 |
| X 대 Bluesky 딥페이크 비율, 캐나다 2025년 | 7.9% vs 2.2% | ACM Web Conference, 2026 |
| 합성 이미지 공유: 우파 성향 대 좌파 성향 계정 | 9.24% vs 3.87% | ACM Web Conference, 2026 |
| X 전체 조회수 중 딥페이크 비중, 캐나다 2025년 | 0.52% | ACM Web Conference, 2026 |
| 탐지된 딥페이크 중 무해하거나 비정치적이었던 것 | 49.41% | ACM Web Conference, 2026 |
맥락 참고: 가장 명확한 예외는 루마니아로, 헌법재판소는 2024년 12월 6일 조직적인 허위 확산 활동과 AI 생성 콘텐츠를 이유로 2024년 대선 1차 투표를 무효화했습니다. 이는 EU 최초의 이러한 무효화 사례입니다(OECD.AI incident database, 2024).
6. 선거 딥페이크 관련 법률과 규제
입법은 급격히 가속화되었으며, 대부분 전면 금지가 아닌 공개 규칙을 통한 것으로, 표현의 자유에 대한 제약을 반영합니다. 2026년 5월 기준으로 미국 30개 주가 정치적 커뮤니케이션에서의 딥페이크를 다루는 법률을 제정했으며, 이는 연초 28개 주에서 증가한 수치입니다. 메릴랜드주가 30번째 주가 되었습니다(Public Citizen, 2026). 2025년에는 속도가 더욱 빨라서, 정치적 딥페이크를 규제하는 주의 수가 6개월 만에 21개 주에서 28개 주로 증가했습니다(R Street Institute, 2025). 연방 및 EU의 투명성 요건도 이와 병행해 도입되고 있습니다.
| 지표 | 값 | 출처 |
|---|---|---|
| 선거 딥페이크 법률을 보유한 미국 주(2026년 5월) | 30 | Public Citizen, 2026 |
| 2026년 초 기준 이러한 법률을 보유한 미국 주 | 28 | Public Citizen, 2026 |
| 보호 조치를 제정한 30번째 주 | Maryland | Public Citizen, 2026 |
| 정치적 딥페이크를 규제하는 주, 2025년 1월-7월 | 21 to 28 | R Street Institute, 2025 |
| EU AI Act 제50조 투명성 규정 적용 시작일 | 2 August 2026 | EU AI Act, Article 50 |
| California AI Transparency Act(AB 853) 서명 | 13 October 2025 | Carnegie Endowment, 2026 |
| Pennsylvania Act 35 딥페이크법 서명 | 7 July 2025 | Resemble AI, 2025 |
| Washington주 위조 디지털 초상 법률 시행 | 27 July 2025 | Resemble AI, 2025 |
맥락 참고: Public Citizen에 따르면 이러한 조치들은 이를 제정한 모든 주에서 초당적 지지를 받아 통과되었으며, 대부분은 금지가 아니라 AI 생성 정치 콘텐츠에 대한 고지 문구에 의존합니다.
요약: 숫자로 보는 선거 딥페이크
| 지표 | 값 | 출처 |
|---|---|---|
| 30개국에서 추적된 선거 딥페이크 | 133 | German Marshall Fund, 2024-2026 |
| 상당한 딥페이크 캠페인이 있었던 선거 | 39% | German Marshall Fund, 2024-2026 |
| 2021년 이후 선거 딥페이크의 영향을 받은 국가 | 38 | Surfshark, 2025 |
| 영향을 받은 국가의 인구 | 3.8 billion | Surfshark, 2025 |
| 정치적 동기에 의한 딥페이크 사건, 2025년 3분기 | 482 | Resemble AI, 2025 |
| 선거 딥페이크 중 오디오 비중 | 69% | German Marshall Fund, 2024-2026 |
| 소셜미디어를 통해 확산된 사건 | 92% | Surfshark, 2025 |
| AI 선거 조작을 매우 우려하는 미국 성인 | 57% | Pew Research Center, 2024 |
| 기술기업이 플랫폼 오용을 막을 것이라 확신 | 20% | Pew Research Center, 2024 |
| 온라인에서 진짜 대 가짜 뉴스에 대한 우려(전 세계) | 58% | Reuters Institute, 2025 |
| 진짜와 가짜를 구별하는 데 매우 자신 있는 캘리포니아 주민 | 8% | Carnegie Endowment, 2026 |
| NH 딥페이크 바이든 로보콜에 대한 FCC 벌금 | $6 million | FCC, 2024 |
| 해당 로보콜의 대상이 된 유권자 | up to 25,000 | FCC, 2024 |
| 확인된 바이럴 AI 허위정보 사례, 2024년 영국 선거 | 16 | Alan Turing Institute, 2024 |
| 딥페이크였던 선거 이미지, 캐나다 2025년 | 5.86% | ACM Web Conference, 2026 |
| 저가형 조작 대 AI 딥페이크 사용 비율, 2024년 | 7x more | Knight First Amendment Institute, 2024 |
| 선거 딥페이크 법률을 보유한 미국 주(2026년 5월) | 30 | Public Citizen, 2026 |
| EU AI Act 투명성 규정 적용 시작일 | 2 August 2026 | EU AI Act, Article 50 |
방법론 및 출처
데이터는 2024년부터 2026년까지 발표된 1차 자료를 우선적으로 수집했으며, 2차 집계 사이트가 아니라 각 수치를 원본 트래커, 설문조사, 제출 서류, 법원 기록 또는 동료심사 연구까지 거슬러 추적했습니다. 인용된 출처:
- German Marshall Fund, Spitting Images: Tracking Deepfakes and Generative AI in Elections(종합 데이터, 2024-2026)
- Surfshark Research, Election-Related Deepfakes(2025)
- Resemble AI, Q3 2025 Deepfake Incident Report(2025)
- Knight First Amendment Institute, We Looked at 78 Election Deepfakes(2024)
- Political Deepfakes Incidents Database(Walker, Schiff and Schiff, Purdue University / AAAI ICWSM, 2024)
- Pew Research Center, Concern Over the Impact of AI on the 2024 Presidential Campaign(2024)
- Reuters Institute for the Study of Journalism, Digital News Report 2025
- Carnegie Endowment for International Peace, AI and Democracy: Mapping the Intersections(2026)
- World Economic Forum, Global Risks Report 2025
- Federal Communications Commission, FCC Issues $6M Fine for N.H. Robocalls(2024)
- New Hampshire Public Radio, Kramer acquitted on robocall charges(2025)
- Alan Turing Institute, No evidence AI disinformation or deepfakes impacted UK, French or European elections(2024)
- ACM Web Conference 2026, Deepfakes in the 2025 Canadian Election: Prevalence, Partisanship, and Platform Dynamics
- Public Citizen, 30 States Now Have Laws to Regulate Election Deepfakes(2026)
- R Street Institute, Update on 2025 State Legislation to Regulate Election Deepfakes(2025)
- OECD.AI Incidents Monitor, AI-driven social media interference annuls Romania presidential vote(2024)
- EU AI Act 제50조(AI 생성 콘텐츠에 대한 투명성 의무)
Data watch: 이 출처들 중 여러 곳은 예측 가능한 주기로 갱신됩니다. German Marshall Fund의 Spitting Images 트래커와 Public Citizen의 주법 트래커는 지속적으로 업데이트됩니다. Resemble AI는 분기별 사건 보고서를 발행하며(다음은 2025년 4분기 보고서가 예상됨), Reuters Institute Digital News Report와 World Economic Forum Global Risks Report는 각각 매년 1월 중순과 6월에 발행됩니다. Pew Research Center는 미국의 주요 선거를 전후해 반복적으로 선거-AI 설문조사를 실시하며, 2026년 중간선거에 관한 새로운 데이터가 나올 가능성이 높습니다. 2026년 11월 미국 중간선거를 앞두고 30개 주라는 입법 건수는 계속 늘어날 것으로 예상됩니다.
마지막 업데이트: 2026년 7월 10일.
새로운 데이터가 발표될 때마다 분기별로 이 페이지를 검토하고 업데이트합니다.