Легальна ли имитация голоса с помощью ИИ? Объяснение законов
Имитация голоса с помощью ИИ находится на пересечении мощной технологии и правовой территории, которую суды и законодатели всё ещё пытаются осмыслить. Независимо от того, являетесь ли вы создателем контента, разработчиком или просто заинтересовались темой после прослушивания убедительного дипфейк-клипа, вопрос о законности важен — и ответ на него подлинно сложен. В этой статье даётся фактический обзор правовых областей, регулирующих имитацию голоса с помощью ИИ: право на публичность, мошенничество, клевета, авторское право, нормы защиты потребителей и волна новых законодательных инициатив о дипфейках, проходящих через штаты США и Европейский союз.
Эта статья является исключительно общей информацией, а не юридической консультацией. Законы существенно различаются в зависимости от страны и штата США, часто меняются, и их применение к конкретной ситуации зависит от обстоятельств, которые должен оценить юрист. Ничто в этой статье не должно восприниматься как окончательное решение по какому-либо конкретному делу. Если вы столкнулись с реальным правовым вопросом, проконсультируйтесь с квалифицированным адвокатом в вашей юрисдикции.
TL;DR
- Имитация голоса с помощью ИИ не является автоматически незаконной, но и не является автоматически законной — всё определяется целью, согласием и юрисдикцией.
- Законы о праве на публичность защищают голос любого человека от коммерческого использования без согласия, а не только голоса знаменитостей.
- Использование клонированного голоса для обмана, мошенничества или преследования кого-либо является уголовным преступлением практически в любой юрисдикции.
- В США пока нет единого федерального закона об ИИ-голосах, но законы штатов быстро множатся; Закон ЕС об ИИ уже вступил в силу.
- Пародия и сатира предоставляют определённую защиту, но не являются полным иммунитетом.
- Клонирование собственного голоса или голоса, на использование которого у вас есть явное письменное разрешение, — путь с наименьшим риском.
Что в действительности означает «имитация голоса с помощью ИИ»?
Прежде чем переходить к законодательству, стоит точнее определить технологию. Имитация голоса с помощью ИИ охватывает две связанные, но разные возможности.
Первая — конвертация голоса — трансформация голоса одного человека в реальном времени так, чтобы он звучал как другой человек. Именно это делает чейнджер голоса в реальном времени. Вторая — синтез голоса — генерация нового аудио с голосом целевого человека на основе текста или другого ввода, иногда называемая клонированием голоса с ИИ. Обе технологии используют нейросетевые модели, обученные на аудиоданных, и обе могут давать результаты, которые человеческому слуху трудно отличить от подлинного голоса реального человека.
Правовые вопросы отчасти различаются для этих двух случаев. Конвертация голоса в реальном времени, используемая в частных целях — как голос персонажа среди друзей — находится в совершенно иной правовой плоскости, нежели синтез голоса политика, произносящего слова, которых он никогда не говорил, с последующей публикацией в сети. Большинство принятых на сегодня законов сосредоточены на последнем — дипфейк-аудио с намерением ввести в заблуждение — однако принципы, лежащие в основе права на публичность и законодательства о мошенничестве, применимы к обоим случаям.
Право на публичность: защита голоса как имущества
Что такое право на публичность?
Право на публичность — это правовая доктрина, предоставляющая людям контроль над коммерческим использованием их личности, включая имя, образ, внешность и голос. Оно развилось в общем праве США и закреплено законодательно примерно в половине штатов. В Европе аналогичная защита существует в рамках концепции прав личности в странах с гражданским правом.
Право на публичность не ограничивается знаменитостями. Любой человек — частное лицо, несовершеннолетний, умерший (во многих штатах) — может обладать этим правом. Ключевой вопрос заключается в том, использовал ли кто-то вашу личность для коммерческой выгоды без вашего согласия.
Как это применяется к клонированным с помощью ИИ голосам?
Когда компания или физическое лицо использует клонированную с помощью ИИ версию голоса реального человека для рекламы продуктов, получения дохода на контентных платформах или иной коммерческой эксплуатации этого голоса без разрешения человека, претензии на основе права на публичность почти наверняка применимы. Суды признавали обоснованность исков, связанных с голосом, как минимум с дела Bette Midler против Ford Motor Company 1988 года, в котором Девятый округ постановил, что подражание характерному голосу в рекламных целях является основанием для иска даже без копирования конкретной записи.
Клонирование с помощью ИИ делает эту доктрину значительно более практически значимой. Раньше основным риском был живой имитатор, готовый взять на себя ответственность. Сегодня любой человек с ноутбуком может создать высококонвинсивную копию. Лежащий в основе правовой принцип — нельзя коммерчески эксплуатировать чью-то личность без согласия — не изменился, но масштаб возможного нарушения кардинально возрос.
К штатам с особенно сильным законодательством о праве на публичность относятся Калифорния (Закон о правах знаменитостей Калифорнии продлевает защиту на 70 лет после смерти), Нью-Йорк, Техас, Иллинойс и Теннесси. Если ваша целевая аудитория находится в любом из этих штатов, их законы могут применяться, даже если вы находитесь в другом месте.
Мошенничество и самозванство: когда обман становится уголовным
Использование клонированного с помощью ИИ голоса для обмана кого-либо — чтобы заставить перевести деньги, раскрыть учётные данные или предпринять действия, которые иначе не были бы предприняты — это не гражданское дело. Это уголовное мошенничество. Мошенничество с использованием голоса на основе ИИ уже преследуется по действующим федеральным законам о проводном мошенничестве (18 U.S.C. § 1343) и законам о краже личных данных — без ожидания специального законодательства об ИИ.
Ряд резонансных дел был связан с тем, что клоны голосов с ИИ выдавали себя за руководителей компаний для авторизации банковских переводов (это иногда называют «мошенничеством CEO» или «вишингом»). Финансовые потери в таких делах достигали миллионов долларов на один инцидент. Прокуроры рассматривают их как серьёзные федеральные преступления.
Даже когда финансового мошенничества нет, использование ИИ-голоса для выдачи себя за конкретного человека таким образом, что это вводит в заблуждение третью сторону — прикидываться сотрудником правоохранительных органов, заявлять, что вы врач, представляться руководителем компании, которым вы не являетесь — может нарушать законы об использовании чужой личности, существующие в каждом штате США и большинстве стран.
Намерение обмануть является ключевым элементом. Преобразование собственного голоса для развлечения или использование вымышленного голосового персонажа, не имеющего ничего общего с реальным человеком, категорически отличается от создания записи, призванной заставить слушателей поверить, что реальный человек сказал то, чего он не говорил.
Клевета: ложные утверждения факта
Законодательство о клевете запрещает публикацию ложных утверждений факта, наносящих ущерб репутации кого-либо. Убедительный ИИ-клон голоса публичного лица, говорящего что-то клеветническое — например, признающегося в преступлении, которого он не совершал — является таким же основанием для иска, как и письменное ложное утверждение, и, вероятно, более вредоносным, поскольку аудио несёт эмоциональную нагрузку, которой нет у текста.
Для публичных лиц в США Первая поправка требует доказательства «фактического умысла» — осведомлённости о ложности или безрассудного пренебрежения истиной — в соответствии со стандартом дела New York Times Co. v. Sullivan. Для частных лиц планка ниже. Во многих странах законодательство о клевете строже, чем в США, и бремя доказывания правдивости может лежать на ответчике.
Маркировка дипфейк-аудио как сатиры не защищает его автоматически. Если разумный слушатель воспримет контент как подлинное высказывание реального человека, иск о клевете может быть поддержан. Контекст, место размещения предупреждения и то, насколько чётко контент представлен как вымышленный, имеют значение.
Авторское право: что защищает голос (и что не защищает)
Человеческий голос как биологическая характеристика не является объектом авторского права. Нельзя получить авторское право на звучание своего голоса так же, как нельзя получить его на форму лица. Однако это не означает, что клонирование голоса — территория, свободная от авторского права.
Записанные выступления, как правило, защищены. Если вы копируете коммерчески выпущенную аудиозапись для обучения модели ИИ, могут быть нарушены как авторское право на звукозапись (принадлежащее лейблу или дистрибьютору), так и авторское право на лежащую в основе музыкальную композицию. Ряд текущих судебных процессов оспаривает, является ли сбор аудио для обучения ИИ нарушением авторских прав или подпадает под добросовестное использование; суды пока не дали окончательного ответа.
Производные произведения и введение в заблуждение. Даже без копирования конкретной записи использование ИИ-голоса для создания контента, достаточно близко имитирующего характерный художественный стиль конкретного человека, чтобы выдать его за подлинную работу этого артиста, может дать основания для претензий как по авторскому праву (если воспроизводится конкретное охраняемое выражение), так и по законодательству о недобросовестной конкуренции.
Защита потребителей и правила FTC
Федеральная торговая комиссия США (FTC) уполномочена бороться с недобросовестной торговой практикой. Использование ИИ-голоса для выдачи себя за реального человека — знаменитость, бизнес-руководителя, государственного чиновника — в коммерческих коммуникациях является мошеннической практикой по стандартам FTC. В 2024 году FTC окончательно утвердила правило, специально запрещающее самозванство с помощью ИИ в отношении физических лиц, закрыв пробел, существовавший в более ранних руководящих принципах.
На уровне штатов законы о защите потребителей в большинстве штатов содержат аналогичные запреты на недобросовестную коммерческую практику. Закон о правовой защите потребителей Калифорнии и Закон Иллинойса о мошенничестве в отношении потребителей и недобросовестной деловой практике, например, применялись в делах, связанных с ложными одобрениями и мошенническим использованием личности.
Новое законодательство о дипфейках в США
| Юрисдикция | Закон / Законопроект | Основные положения |
|---|---|---|
| Теннесси | Закон ELVIS (2024) | Гражданская и уголовная ответственность за воспроизведение голоса с помощью ИИ без согласия; распространяется на коммерческое использование |
| Калифорния | AB 2602 (2024) | Требует согласия на использование ИИ-копий исполнителей в контрактах в сфере развлечений |
| Калифорния | AB 1836 (2024) | Ограничивает использование ИИ-копий умерших исполнителей |
| Техас | Закон SCOPE | Запрещает сексуальные дипфейки, созданные с помощью ИИ; более широкие положения рассматриваются |
| Иллинойс | BIPA + ожидающие законопроекты об ИИ | Защита биометрических данных распространяется на голосовые отпечатки; специальные законопроекты об ИИ в комитете |
| Нью-Йорк | Несколько ожидающих законопроектов | Расширение прав личности для охвата образов, созданных ИИ |
| Федеральный уровень (США) | Закон NO FAKES (предложен) | Создаёт федеральное право, защищающее голос и образ от ИИ-репликации без согласия |
| Федеральный уровень (США) | Закон DEFIANCE (2024) | Гражданский иск за ненасильственные интимные дипфейки без согласия |
Тенденция очевидна: законодатели движутся в сторону явной защиты, а не от неё.
Закон ЕС об ИИ и европейские права личности
Закон ЕС об ИИ, вступивший в силу в августе 2024 года и поэтапно внедряемый до 2027 года, принимает более всеобъемлющий регуляторный подход, чем законы отдельных штатов США.
В соответствии с Законом ЕС об ИИ системы ИИ, генерирующие синтетическое аудио, видео или текст, изображающий реальных людей, должны включать оговорки о том, что контент создан ИИ. Определённые виды использования — развёртывание системы ИИ для подражания физическим лицам таким образом, что это может ввести публику в заблуждение — классифицируются как недопустимые и запрещены статьёй 5 Закона. Штрафы за запрещённое использование могут достигать 35 миллионов евро или 7 процентов глобального годового оборота.
Помимо Закона об ИИ, государства-члены ЕС имеют в своих гражданских кодексах механизмы защиты прав личности (французское droit à l’image, немецкие общие права личности в рамках конституционного права и т. д.), которые защищают от несанкционированного коммерческого использования голоса и образа человека.
Принцип согласия: наиболее чёткая граница
Практически во всех правовых механизмах, рассмотренных выше, — праве на публичность, законодательстве о мошенничестве, защите потребителей, Законе ЕС об ИИ — наиболее чётким фактором, определяющим законность, является согласие. Явное, информированное согласие человека, чей голос клонируется или имитируется, кардинально меняет правовую картину.
«Явное» означает, что человек понял, на что соглашается. «Информированное» означает, что он знал, как будет использоваться голос. Настоятельно рекомендуется письменная форма, поскольку устное согласие трудно доказать. И согласие, данное для одной цели, не переходит на другую цель.
Как насчёт личного использования чейнджера голоса?
Использование чейнджера голоса в реальном времени для модификации собственного голоса в целях развлечения, ролевых игр, защиты конфиденциальности или творческого самовыражения не поднимает вопросов права на публичность, поскольку вы не эксплуатируете чужую личность. Это не поднимает вопросов мошенничества, если вы не используете его для обмана людей в ущерб им. Это не поднимает вопросов клеветы, поскольку вы не делаете ложных заявлений о реальных людях.
Правовой риск при личном использовании чейнджера голоса узок и специфичен: если вы намеренно выдаёте себя за конкретного реального человека в контексте, где другие люди искренне верят, что общаются именно с этим человеком, и этот обман причиняет вред, — вы пересекли черту.
Такие инструменты, как VoxBooster, созданы для легитимных сценариев использования: трансформации голоса, создания персонального ИИ-голоса на основе собственного голоса и защиты конфиденциальности. Их используют стримеры, создатели контента, геймеры и люди с особыми потребностями в доступности.
Практические рекомендации для соблюдения закона
Использование с низким риском:
- Клонирование собственного голоса для личного или коммерческого использования с чётким предупреждением
- Использование вымышленных голосовых персонажей, не похожих на реальных людей
- Пародия или сатира с явной маркировкой и очевидным некоммерческим характером
- Трансформация голоса для конфиденциальности или творческого самовыражения среди участников, давших согласие
Использование с высоким риском:
- Клонирование голоса любого реального человека без явного письменного согласия
- Коммерческое использование клонированного голоса без разрешения человека
- Создание контента, который может быть принят за подлинное высказывание реального человека
- Использование клона голоса для обмана кого-либо относительно личности говорящего
Связанное чтение: Как законно клонировать чей-то голос | Этика клонирования голоса | Как защитить свой голос от клонирования
Часто задаваемые вопросы
Является ли имитация голоса с помощью ИИ незаконной в США?
Это зависит от цели, согласия и штата. Использование клонированного голоса для мошенничества является федеральным преступлением. Использование его для нанесения ущерба репутации без согласия может повлечь иски о правах на публичность. В ряде штатов уже есть специальные законы о дипфейках голоса. Единого федерального закона об ИИ-голосах пока нет, но правоприменение ускоряется.
Что такое право на публичность и как оно применяется к клонированию голоса?
Право на публичность защищает имя, внешность и голос человека от коммерческого использования без согласия. В штатах Калифорния и Нью-Йорк это касается всех, а не только знаменитостей. Использование клонированного с помощью ИИ голоса реального человека для продажи товаров или услуг без его разрешения является очевидным нарушением.
Является ли имитация голоса законной для пародии или сатиры?
Пародия и сатира защищены Первой поправкой в США и аналогичными гарантиями свободы слова в других демократических странах, однако эта защита не безгранична. Если контент можно принять за подлинное высказывание реального человека или если он используется в коммерческих целях, защита пародии существенно ослабевает. Проконсультируйтесь с юристом перед публикацией.
Регулирует ли Закон ЕС об ИИ имитацию голоса с помощью ИИ?
Да. Закон ЕС об ИИ классифицирует определённые системы ИИ, имитирующие реальных людей, как высокорисковые или запрещённые в зависимости от контекста. Он также требует чёткого раскрытия информации, когда аудио, созданное ИИ, может ввести публику в заблуждение. Несоблюдение грозит штрафами до 30 миллионов евро или 6 процентов глобального оборота.
Можно ли использовать чейнджер голоса с ИИ, чтобы звучать как другой человек в игре или в Discord?
Использование чейнджера голоса в качестве персонажа или для лёгкого ролевого общения с друзьями, как правило, несёт низкий риск. Черта пересекается, когда вы выдаёте себя за конкретного реального человека таким образом, что это вводит других в заблуждение или наносит ущерб его репутации. Цель и контекст имеют гораздо большее значение, чем сама технология.
Что такое Закон ELVIS и в каких ещё штатах есть аналогичные законы?
Закон ELVIS штата Теннесси (2024) делает гражданским и уголовным правонарушением воспроизведение голоса человека с помощью ИИ без согласия в коммерческих целях. Калифорния, Техас, Иллинойс, Нью-Йорк и Джорджия приняли или внесли аналогичное законодательство. Тенденция направлена на усиление защиты, а не её ослабление.
Нарушает ли клонирование голоса авторские права?
Сам голос, как правило, не защищён авторским правом, но запись выступления зачастую является таковой. Воспроизведение охраняемой записи для обучения модели или подражание характерному художественному стилю с целью выдать имитации за подлинные работы может нарушать авторское право. Законодательство в этой области всё ещё развивается.
Заключение
Имитация голоса с помощью ИИ — одна из подлинно сложных областей, где стремительно развивающаяся технология проверяет пределы действующего законодательства. Честный ответ на вопрос «это законно?» таков: зависит от обстоятельств. От того, что вы делаете с этим, кто дал согласие, где находитесь вы и ваша аудитория, и намерены ли вы обмануть кого-либо. Право на публичность, законодательство о мошенничестве, право о клевете, авторское право, нормы защиты потребителей и новое специальное законодательство о дипфейках пересекаются в этой сфере и указывают в одном общем направлении: в сторону большей ответственности за несогласованное и вводящее в заблуждение использование.
Эта статья является общей информацией, а не юридической консультацией. Законодательство в этой области меняется быстро. Если вы столкнулись с конкретным правовым вопросом, обратитесь за квалифицированной юридической консультацией в вашей юрисдикции.
Для очевидно законных случаев использования — клонирования собственного голоса, использования вымышленных голосовых персонажей, трансформации голоса для конфиденциальности или развлечения с чётким предупреждением — правовая картина значительно менее сложна. Именно для таких сценариев и предназначены инструменты вроде VoxBooster.
Скачайте VoxBooster и воспользуйтесь бесплатным 3-дневным пробным периодом — трансформация голоса в реальном времени, клонирование голоса с ИИ на основе собственного голоса и полноценный саундборд, всё работает локально на Windows без отправки вашего аудио куда-либо.
Внешние источники: Руководство Бюро по авторским правам США по ИИ, Правило FTC о самозванстве, Официальный текст Закона ЕС об ИИ, Wikipedia: Право на публичность