AIによって生成される動画や画像、音声には「AIである」と認識できるものもある一方で、実在のものか否か容易には判断できないものも少なくありません。近年ではディープフェイクの音声を用いたトラブルも増加していることから、脅威を正しく認識して対策を講じる必要があるでしょう。
では、ディープフェイクの音声による主な脅威にはどのようなものがあるのでしょうか？また、ディープフェイクの音声によるトラブルについて、どのような対策を講じればよいのでしょうか？今回は、ディープフェイク音声の脅威やディープフェイク音声への対策について、弁護士がくわしく解説します。
なお、当事務所（伊藤海法律事務所）はカルチャー・テクノロジー法務に特化しており、AIに関する法務やAIに関するトラブル対応に力を入れています。ディープフェイク音声への対策でお困りの事業者様は、伊藤海法律事務所までお気軽にご相談ください。
▼この記事のポイント
- ディープフェイクの音声とは、AIによって生成された、本物とは見分けがつきづらい音声コンテンツを指す
- ディープフェイクの音声による主な脅威には、詐欺被害に遭うことや自身の声が無断で利用されることなどがある
- ディープフェイクの音声への対策としては、詐欺被害の注意喚起や送金マニュアルの見直し、「声」を提供する際に生成AIへの学習禁止条項を設けることなどが挙げられる
ディープフェイクの音声とは？
ディープフェイクの音声とは、AIによって生成された音声コンテンツのうち、本物とは見分けがつきづらいものを指します。AIの発展により、声の「持ち主」が実際には言っていない内容を、本人が語っているように見える音声の生成なども容易となりました。
ディープフェイク技術の発展は有用である一方で、悪用されれば詐欺被害などにつながるおそれもあります。被害に遭う事態を避けるため、「ディープフェイクでできること」を正しく認識したうえで、適切な対策を講じる必要があるでしょう。
ディープフェイク音声の本来の用途
本来、ディープフェイクは非常に有用なものであり、次の用途などが想定されます。
- 自身が病気などで発語できなくなった場合への備え
- コールセンター業務などの効率化
- 声優などの「声」をストックすることによるライセンスビジネス
自身が病気などで発語できなくなった場合への備え
ディープフェイク技術を活用することで、あらかじめ自分の「声」を登録し、万が一発語ができなくなった際にも自分の「声」が出力できる可能性があります。病気や外傷などによって発語できなくなる可能性は、誰しもゼロではありません。
これは、声優など「声」を生業にする人にとって有用でしょう。また、「発語ができなくなった後も、自分の子どもに自分の声で話したい」など、個人的な用途も想定できます。
コールセンター業務などの効率化
ディープフェイク技術は、コールセンター業務に活用できる可能性があります。
コールセンターの設置には、多くの人員が必要です。また、業種によっては電話口の相手から怒鳴られたりハラスメントを受けたりする場合もあるなど、精神的な負担が大きくなりやすい業務でもあります。
ディープフェイク技術を活用すれば、生身の「人」の設置を最小限としつつコールセンターを設置できる可能性があり、事業の効率化につながります。また、従業員を精神的な負担の大きなコールセンター業務に従事させる事態を避けられ、メンタルヘルス対策ともなるでしょう。
さらに、電話の「待ち時間」が減ることで、顧客満足度の向上につながる効果も期待できます。
声優などの「声」をストックすることによるライセンスビジネス
ディープフェイク技術は、「声のストックビジネス」に活用できる可能性もあります。
声優は生身の人間であり、演じられる声や対応できるナレーションには、時間や体力面での制約が入るでしょう。そこで、あらかじめ声優が「声」を登録し、これを元に音声を出力するたびに声優側にライセンス料が入る仕組みの構築などが検討できます。
ユーザーは声優に個別に依頼するよりも低い対価で声優の「声」が利用でき、声優側も正当な対価を得られるとなれば、双方にとってメリットとなるでしょう。音声が不正使用されないための対策など課題も多いものの、ディープフェイクの有用な用途の1つであると考えられます。
ディープフェイク音声による主な脅威
ディープフェイクの音声は、必ずしも有用な用途だけに使用されるとは限りません。ディープフェイク音声の主な脅威としては、次の2つが挙げられます。
- 詐欺の被害に遭う
- 自身の声が無断で利用される
詐欺の被害に遭う
ディープフェイク音声の生成が容易となったことは、詐欺被害の脅威となります。具体的な詐欺の態様は、次の2つです。
- 広告による詐欺
- 上司などになりすます詐欺
これらの詐欺について概要を紹介します。
広告による詐欺
生成AIを使用することで、著名人がある商品・サービスを勧めているように見える動画や音声を容易に生成できるようになりました。実際に、「著名人が投資商品を勧めているように見える動画や音声」をSNS広告などで見かけた経験がある人も少なくないと思います。
このようなディープフェイクには、マネーリテラシーが高いイメージや誠実なイメージのある著名人が使われることが多いでしょう。ディープフェイクであることが見抜けなければ、「この人が勧めるものなら安心だ」などと考え、詐欺被害に遭うかもしれません。
上司などになりすます詐欺
ディープフェイク音声の「元」となるのは、著名人だけではありません。ある企業がピンポイントで狙われた場合、実在の社長や上司などの声がディープフェイクにより生成され、電話などで虚偽の送金指示などがなされる可能性があります。
ディープフェイク音声を用いたこのような詐欺があることを知らなければ、「いつもの上司の声」による指示に疑いを持てず、指示されるままに送金してしまうかもしれません。
自身の声が無断で利用される
ディープフェイク音声の生成が容易になったため、自身の声が無断で利用されるおそれがあります。これによって生じ得る脅威としては、次の2つが想定されます。
- イメージ低下につながる・人格権が害される
- 正当な収益を得る機会を逸する
それぞれの脅威について解説します。
イメージ低下につながる・人格権が害される
ディープフェイク音声が巧妙であれば、これを聞いた人が「本人が話した」と誤認する可能性があります。たとえば、本人であれば言わないような内容（他者への誹謗中傷、詐欺への加担、卑猥な内容、自身とは異なる政治的主張、ヘイトスピーチなど）をあたかも言っているように聞こえるディープフェイクが拡散される可能性もあるでしょう。
このような事態が生じてしまうと、本人のイメージが低下したり人格権が害されたりするおそれが生じます。
正当な収益を得る機会を逸する
「声」を商品とする声優や俳優などの声がディープフェイクによって模倣されれば、正当な収益を得る機会を逸するおそれが生じます。
実際に、声優の津田健次郎氏の声がディープフェイクにより模倣され、その声がナレーションをしている動画がTikTokで拡散されました。これを受けて、津田氏側が提訴しています。
本来、依頼を受けて声優がナレーションなどをすれば、対価が得られるはずでしょう。そうであるにもかかわらず、ディープフェイクによって模倣された声が無断で使用される事態が頻発すれば、声優などが正当な収益を得る機会を逸するおそれが生じます。
ディープフェイクの音声に備えた対策
ディープフェイク音声によって生じ得るリスクを低減するため、企業や声優、声優事務所などは対策を講じることをおすすめします。講じるべき主な対策は次のとおりです。
- ディープフェイクによる音声生成が技術上可能となっていることを知っておく
- 従業員や家族などへ詐欺への注意喚起をする
- 送金などのマニュアルを見直す
- 声優などが取引先に「声」を提供する際に生成AIへの学習禁止条項を設けることを検討する
- 自身の「声」の不正使用を見つけたら早期に法的措置を講じる
- 相談できる弁護士を見つけておく
ディープフェイクによる音声生成が技術上可能となっていることを知っておく
ディープフェイク音声による詐欺被害を避けるには、ディープフェイクによる音声生成が可能となっていることを知っておくことが重要です。
この点を知っていれば、著名人が投資商品を勧めていたり上司から電話で日頃とは異なる送金指示をされたりした際に、「もしかしてディープフェイクではないか」と、一歩立ち止まって検討しやすくなるでしょう。
従業員や家族などへ詐欺への注意喚起をする
ディープフェイク音声による詐欺被害を避けるためには、経営陣など一部の人だけがリスクを知っておくだけでは不十分です。実際に電話を受けたり動画を見たりする可能性のある従業員や家族にもこのような詐欺があることを伝え、注意喚起しておくとよいでしょう。
送金などのマニュアルを見直す
ディープフェイク音声による詐欺被害を避けるため、送金などのマニュアルを見直すことをおすすめします。
たとえば、電話で例外的な送金指示を受けた際には複数人で確認するなど業務フローを整備し、仮に上司などから電話で急ぎの送金を指示されてもこのフローを徹底するようにすることで、詐欺被害に遭う事態を回避しやすくなるでしょう。
声優などが取引先に「声」を提供する際に生成AIへの学習禁止条項を設けることを検討する
声優などが取引先に「声」を提供する際は、契約書に生成AIに声を学習させることを禁じる旨の条項を設けることを検討するとよいでしょう。
「声」の提供先が声を微修正する目的などから、声をAIに読み込ませるかもしれません。生成AIへの学習禁止条項を設けることで、取引先に対し、声が無断で生成AIに入力される事態への抑止力となります。
▼併せて読みたい
自身の「声」の不正使用を見つけたら早期に法的措置を講じる
自身の「声」が不正使用されていることに気付いたら、早期に法的措置を講じることをおすすめします。「声の権利」に対する意識は人によってさまざまであり、安易に不正使用がされたりディープフェイクに利用されたりすることもあるかもしれません。
声の権利意識を向上させ、ディープフェイクで他人の声を無断で生成することが法的に問題のある行為であるとの認識を広げるため、声の不正使用を見つけたら、早期に厳格な法的措置を講じることをおすすめします。
相談できる弁護士を見つけておく
ディープフェイクで音声が不正に利用される事態に備え、相談できる弁護士を見つけておくことをおすすめします。日頃から気軽に相談できる、AIに強い弁護士を見つけておくことで、いざという時に早期に対応することが可能となります。
伊藤海法律事務所はAIに関する法務に力を入れており、ディープフェイク音声への対策についても豊富な実績を有しています。ディープフェイク音声への対応でお困りの際は、伊藤海法律事務所までお気軽にご相談ください。
ディープフェイク音声への対策は伊藤海法律事務所にお任せください
ディープフェイク音声への対策でお困りの際は、伊藤海法律事務所までご相談ください。ここでは、当事務所の主な特長を4つ紹介します。
- カルチャー・テクノロジー法務に特化している
- 4種類の顧問プランを展開している
- 代表は弁理士でもあり知財に強みを有している
- 英文契約書にも対応している
カルチャー・テクノロジー法務に特化している
伊藤海法律事務所は、カルチャー・テクノロジー法務に特化しており、AIやディープフェイクに関する法務に力を入れています。状況や困りごとの内容などに応じた柔軟なサポートが可能であるため、まずはお気軽にご相談ください。
4種類の顧問プランを展開している
伊藤海法律事務所は、月額料金と料金内でのサポート範囲が異なる4種類の顧問プランを展開しています。そのため、フリーランスから上場企業に至るまで、過不足のないサポートが提供できます。
代表は弁理士でもあり知財に強みを有している
伊藤海法律事務所の代表である伊藤海は、弁護士のほかに弁理士資格も有しています。そのため、知財に強みを有しており、知財の保護や出願から侵害時の対応に至るまで、総合的なサポートの提供が可能です。
英文契約書にも対応している
近年では、海外の企業や個人と契約を締結すべき場面が生じることも珍しくありません。伊藤海法律事務所は英文契約書にも対応しており、海外との契約であっても一貫したサポートを提供できます。
ディープフェイク音声に関するよくある質問
最後に、ディープフェイク音声に関するよくある質問とその回答を2つ紹介します。
「声」の権利は法律で保護されている？
2026年8月現在、日本に「声」の権利を直接保護する法律はありません。しかし、声の権利侵害はパブリシティ権の侵害や不正競争防止法違反にあたる可能性があり、これらを根拠として法的措置がとれる可能性があります。
声の権利が侵害されたら、まずは弁護士に相談をして具体的な対策を検討するとよいでしょう。お困りの際は、伊藤海法律事務所までお気軽にご相談ください。
声の権利が侵害された場合にとり得る法的措置は？
声の権利が侵害された場合にとり得る主な法的措置としては、次のものが挙げられます。
| 差止請求 | 侵害行為をやめるよう相手方に求めるもの |
| 損害賠償請求 | 相手の不法行為（声の権利侵害）によって生じた損害を、金銭の支払いによって償うことを求めるもの |
法的措置の可否や適正な賠償額などは状況によって異なるため、まずは弁護士に相談したうえで具体的な法的措置を検討するとよいでしょう。
まとめ
ディープフェイク音声の脅威やディープフェイク音声への対策などについて解説しました。
AIの普及でディープフェイク音声の生成が容易となったことを受け、脅威も拡大しています。主な脅威としては、著名人や上司などに似せた音声によって詐欺被害に遭うことや、自身の声が無断で「生成」されることなどが挙げられます。
ディープフェイク音声の脅威を正しく理解したうえで、詐欺の態様を社内に周知したり送金マニュアルを見直したりするなどの対策を検討するとよいでしょう。
伊藤海法律事務所はカルチャー・テクノロジー法務に力を入れており、なかでもAIに関する法務に特化しています。ディープフェイク音声への対策を講じたいとお考えの際や、ディープフェイクにより自分の声が模倣されてお困りの際などには、伊藤海法律事務所までお気軽にご相談ください。
