AIの発展により、精巧なディープフェイクの生成が可能となりました。たとえば、電話によって上司の「声」で「取引先とのトラブルで緊急なので、指定する口座に早急に〇〇円を振り込んでほしい」と指示されたとしても、これはAI音声による詐欺であるかもしれません。
では、AI音声による詐欺にはどのようなものがあるのでしょうか？またAI音声による詐欺被害を避けるには、どのような対策を講じればよいのでしょうか？今回は、AI音声による詐欺の具体例やAI音声による詐欺被害を避ける対策、AIの普及により企業に生じ得る主な脅威などについてくわしく解説します。
なお、当事務所（伊藤海法律事務所）はカルチャー・エンターテインメント法務、テクノロジー法務に特化しており、AIに関する法務やAIに関するトラブル対応に力を入れています。AI音声による詐欺への対策でお困りの際は、伊藤海法律事務所までお気軽にご相談ください。
▼この記事のポイント
- AI音声の高性能化により、振り込め詐欺などが巧妙化するおそれがある
- AI音声による詐欺に対して企業が講じるべき主な対策には、AI音声による詐欺の存在を社内に周知することやリスク検出サービスを導入すること、送金などのマニュアルを見直すことなどが挙げられる
- 詐欺以外にも、AIは企業にとって個人情報・機密情報の漏洩や著作権・商標権侵害、従業員のスキル低下などの面で脅威となる可能性がある
AI音声による詐欺とは？
AI音声による詐欺とは、家族や上司などの声を模したAI音声によって金品を騙し取られる詐欺を指します。ここでは、個人の詐欺被害の例と企業の詐欺被害の例を紹介します。
個人の詐欺被害の例
AI音声による個人の詐欺被害の代表例は、家族の声を模した振り込め詐欺です。
振り込め詐欺自体は従来からある詐欺の形であり、子どもなどに扮したものや警察官に扮したもの、複数の役割が演じ分けられるものなどさまざまなものがあります。家族に扮するものとしては、次の理由などを騙って金品の引き渡しを求めるものが挙げられるでしょう。
- 仕事で多額の損害を出して、その損失を埋める金銭を用意する必要がある
- 横領がバレてしまい、すぐに全額を返金しなければ逮捕される
- 交通事故を起こしてしまい、すぐに示談金を支払う必要がある
なかには巧妙なストーリーが練られている場合もあり、特に高齢者の場合は騙されてしまう場合もあるでしょう。
しかし、これまでは声の模倣は難しかったため、声の違和感までは消せませんでした。そのため、声の違いから「家族ではない」と気付き、事なきを得たケースも多かったものと思われます。
AIの普及でディープフェイクの生成が容易となったことを受け、詐欺を働こうとする人にとってのこの「ハードル」が飛び越えやすくなりました。つまり、今後は何らかの形で家族の声がAIに「学習」され、家族そっくりの声でこのような詐欺電話がかかってくる可能性があるということです。
企業の詐欺被害の例
AI音声による企業の詐欺被害の代表例は、上司などの声を模した詐欺被害です。
詐欺を働こうとする人に自社がターゲティングされれば、あらかじめ指示系統が調査されたうえで上司の声が何らかの形でAIに学習され、上司そっくりの声で「重要な取引のために必要なので、すぐに〇〇円を指定の口座に振り込んでほしい」などの電話がかかってくるかもしれません。
AIの発展により比較的容易にディープフェイク音声を生成できる事実を知らなければ、「いつもの上司の声」であることで、特に疑うことなく指示に従ってしまう可能性があるでしょう。
AI音声による詐欺を防ぐために企業がとれる対策
企業がAI音声による詐欺を予防するための対策としては、次のものなどが挙げられます。AI音声による詐欺は、適切な対策を講じることで防げる可能性があります。
- AI音声による詐欺の存在の周知
- リスク検出サービスの導入
- 送金などのマニュアルの見直し
- 不審な電話を受けた際の対応マニュアルの整備
ここでは、それぞれの概要を解説します。
AI音声による詐欺の存在を社内に周知する
AI音声による詐欺の対策としては、詐欺の存在を社内に周知することが有効です。
このような詐欺があることを従業員が知っていれば、仮に「上司の声」による送金指示であったとしても、内容に不審な点があれば「もしかしたら、詐欺ではないか」と一歩立ち止まって疑うことが可能となるためです。
リスク検出サービスの導入を検討する
AI音声による詐欺は、リスク検出サービスの導入によって防げる可能性があります。
リスク検出サービスとは、発信元の電話番号や会話の内容、声紋などをもとにリスクのある電話であるかどうかを自動で判定して表示するサービスです。詐欺である可能性が表示されることで冷静な対処が可能となり、詐欺被害を防ぎやすくなります。
送金などのマニュアルを見直す
企業がAI音声による詐欺被害を防ぐためには、送金などのマニュアルを見直すことも有効でしょう。
送金時にダブルチェックを徹底することや通常時とは異なる送金指示をする際には事前に取り決めた符丁を必ず伝えることなどをマニュアル化することで、電話を受けた従業員が慌てて送金してしまう事態を回避しやすくなります。
不審な電話を受けた際の対応マニュアルを整備する
AI音声による詐欺被害を防ぐためには、不審な電話を受けた際の対応マニュアルも整備しておくとよいでしょう。
通常時とは異なる送金指示をされた際には、詐欺などの事情に明るい社内の所定の部署の指示を仰ぐなどのフローをマニュアル化することで、従業員の独断で詐欺被害に遭う可能性を減らしやすくなります。
AIの普及によって企業に生じ得るその他の脅威
AIの普及によって企業に生じ得る脅威には、詐欺被害以外にも次のものなどが挙げられます。
- 個人情報・機密情報の流出
- 著作権・商標権侵害
- ハルシネーション・従業員のスキル低下
- サイバー攻撃
個人情報・機密情報の流出
AIの利用方法によっては、個人情報や機密情報の漏洩につながるおそれがあります。
AIは、入力したデータを「学習」し、これが出力結果に反映されます。そのため、個人情報や社内の機密情報などをAIに入力した場合、その設定などによっては、これが世界中の出力結果に反映される可能性があります。
たとえば、顧客である「A山B男」さんの住所や電話番号や自社（XX社）の社外秘の営業ノウハウを従業員がAIに入力したとします。この場合、自社とは無関係の人がそのAIに「A山B男さんの電話番号を教えて」や「XX社の営業ノウハウは？」などと入力した際に、個人情報や機密情報が出力されるおそれがあるということです。
著作権・商標権侵害
AIを使用する場合、他者が権利を有する著作物や商標などに酷似するコンテンツが出力される可能性があります。これに気付かずそのまま公開すれば、著作権侵害や商標権侵害であるとして、差止請求や損害賠償請求などがなされる可能性があるでしょう。
ハルシネーション・従業員のスキル低下
AIは万能ではなく、事実とは異なる「回答」が返ってくる可能性があります。これを、「ハルシネーション」といいます。
これをそのまま外部に公開したり重要な意思決定の根拠としたりすれば、自社の信頼の低下や重大な判断ミスにつながるおそれがあるでしょう。
また、AIに頼りすぎると、従業員が自分で十分に考えることなくAIに結論を求めるようになるかもしれません。その結果、従業員のスキルや「考える力」の低下につながるおそれもあります。
サイバー攻撃
AIの発展や普及により、サイバー攻撃のリスクが高まっています。なぜなら、AIにより業務効率化の恩恵を受けるのは健全な業務にとどまらず、サイバー攻撃を「仕掛ける側」も恩恵を受けているためです。
そのため、企業の規模にかかわらず、サイバー攻撃への防御が必須であるといえるでしょう。
AIの脅威に対して企業が講じるべき主な対策
AIの脅威に対して企業が講じるべき主な対策には、次のものなどが挙げられます。
- 生成AIの利用マニュアルを整備する
- AIを活用したコンテンツは、外部に出す前に画像検索などにかける
- 困った際に相談できる弁護士を見つけておく
生成AIの利用マニュアルを整備する
AIを業務で利用する可能性があるのであれば、生成AIの利用マニュアルの整備をおすすめします。
AIは脅威ともなり得る一方で、非常に便利なツールでもあります。そのため、AIの社内利用を一律に禁止するのは、多くの企業にとってもはや現実的ではないでしょう。
とはいえ、個々の従業員がそれぞれの判断・倫理観でAIを利用してしまうと、思わぬ情報漏洩や権利侵害などが生じるおそれがあります。生成AIの利用マニュアルを整備することでリスクのコントロールが可能となり、思わぬ情報漏洩や権利侵害などを避けやすくなります。
AIを活用したコンテンツは、外部に出す前に画像検索などにかける
コンテンツの生成に関してAIを活用する場合、生成したコンテンツを外部に出す前の段階で、必ず画像検索などにかけることをおすすめします。
先ほど解説したように、AIで出力したコンテンツが意図せずとも既存の著作物や実在の人物に似る可能性は低くありません。これがそのまま世に出てしまうと、権利侵害であるとして損害賠償請求がなされたり、企業イメージが低下したりするおそれがあるでしょう。「AIが作ったものであり、あえて似せたわけではない」と主張しても、責任を免れるのは困難です。
生成したコンテンツを公開前に画像検索にかけることで、似ている画像や人物がいることに事前に気付くことが可能となり、意図せぬ侵害を避けやすくなります。
困った際に相談できる弁護士を見つけておく
AIの脅威に備えるためには、困った際に相談できる弁護士を見つけておくとよいでしょう。トラブルが発生した際、早期の段階で弁護士に相談できれば、トラブルによる影響を最小限に抑えやすくなるためです。
伊藤海法律事務所はAIに関する法務に特化しており、トラブルの予防からトラブル発生時の対応まで状況に応じたサポートを提供できます。AIの法務に関して相談できる弁護士をお探しの際は、伊藤海法律事務所までお気軽にお問い合わせください。
AI時代を想定したトラブル対策なら伊藤海法律事務所にお任せください
AI時代を想定したトラブル対策を講じたい場合には、伊藤海法律事務所までご相談ください。ここでは、当事務所の主な特長を4つ紹介します。
- カルチャー・エンターテインメント法務、テクノロジー法務に特化している
- 弁護士への連絡手段が多様である
- 顧問契約にも対応している
- 英文契約書への対応も可能である
カルチャー・エンターテインメント法務、テクノロジー法務に特化している
伊藤海法律事務所はカルチャー・エンターテインメント法務、テクノロジー法務に特化しており、AIに関する法務について豊富なサポート実績を有しています。
豊富な経験と知識に基づいた的確なサポートが可能であるため、まずはお気軽にご連絡ください。
弁護士への連絡手段が多様である
伊藤海法律事務所は、多様な連絡手段に対応しています。ご依頼後はメールや電話のほか、LINEやChatwork、Slackなどでのコンタクトも可能となるため、スムーズなやり取りが実現できます。
顧問契約にも対応している
伊藤海法律事務所は、顧問契約にも対応しています。「日頃から弁護士に気軽に相談したい」や「トラブルの対策についても相談したい」などとお考えの際は、顧問契約もご検討いただくとよいでしょう。
なお、顧問契約をいただいた際には、法務部のグループチャットに弁護士を追加いただくことも可能となります。
英文契約書への対応も可能である
伊藤海法律事務所は、英文契約書にも対応しています。そのため、海外の企業や個人とやり取りすべき場面においても、一貫したサポートが提供できます。
AI音声に関する伊藤海法律事務所の主な対応実績
伊藤海法律事務所は、AI音声に関して豊富なサポート実績を有しています。ここでは、当事務所の主なサポート事例を3つ紹介します。
なお、ここで紹介するのは一例であり、他にも状況やご希望に応じた柔軟なサポートが提供できます。AIに関してサポートを受けられる実績豊富な弁護士をお探しの際は、伊藤海法律事務所までお気軽にご相談ください。
声優の出演契約書にAI学習やAI利用を禁止する旨の条項を追加した事例
声優が契約に基づいて「声」を提供する際は、提供した「声」が無断でAI学習に使われる事態を避けるため、AI学習やAI利用を禁じる旨の条項を設けることを検討するとよいでしょう。声がAIに学習されれば、その声を元にディープフェイクが生成されるおそれがあるためです。
当事務所では、弁護士が声優を代理して相手方と、出演契約書に声の無断でのAI学習やAI利用を禁止する旨の条項を追加することに成功した実績を有しています。
タレントの肖像権を侵害するAIコンテンツの使用差止めを求めた事例
AIで生成されたコンテンツによって、タレントの肖像権が侵害されていました。
そこで、当事務所の弁護士が所属事務所を代理して、侵害者に対してそのコンテンツの使用の差止めを求めた実績があります。
AI利用に関する社内マニュアルを策定した事例
先ほど解説したように、AIを業務で利用する可能性がある場合には、社内マニュアルを整備するべきでしょう。マニュアルを整備することで、AI利用によるリスクをコントロールしやすくなるためです。
当事務所では、AIの利用に関する社内マニュアルを策定した実績を多数有しています。なお、このご依頼は近年特に増加しており、多くの企業がAIと上手に付き合う方法を模索している状況が窺えます。
「声格権」という新たな概念を提唱している
2026年8月現在において、声を直接的に保護する権利や法律はありません。そのため、契約書に「生成AIへの学習禁止条項」を設けているなど一定の場合を除き、声が無断でAIに学習されただけでは法的措置がとれないことがほとんどです。
また、声が無断で使用された場合には「パブリシティ権の侵害」や「不正競争防止法違反」などとして対抗できる可能性があるものの、これらはいずれも商用利用がされた場合を前提としており、それ以外の場合には法的措置がとれない可能性があるでしょう。
しかし、声優などの「声」は肖像などと同じく、本来はその「持ち主」が利用をコントロールできるべきものです。そこで、当事務所は「声格権（音声人格権）」という新たな概念を提唱し、「声」の保護をより強化する試みを行っています。
AI音声による詐欺への対策に関するよくある質問
最後に、AI音声による詐欺への対策に関するよくある質問とその回答を2つ紹介します。
AI音声による詐欺に使われるのは著名人の声だけ？
AI音声による詐欺に使われるのは、著名人の声だけとは限りません。
近年では、短い音声のサンプルがあればAIによるディープフェイクの生成が可能となっています。そのため、インターネット上やテレビなどで「サンプル」を豊富に収集できる著名人のみならず、一般個人の声が詐欺に使用される可能性もあります。
中小企業であれば詐欺被害の心配はない？
中小企業であっても、AI音声による詐欺被害のターゲットとされる可能性があります。
AIの普及によって「1件あたりにかかる詐欺の労力」が減っていることから、大企業のみならず、中小企業が狙われる可能性もあるでしょう。むしろ、大企業と比較してマニュアルやシステムに「穴」が生じやすい中小企業が、積極的に狙われるかもしれません。
そのため、「うちは中小企業だから、手の込んだ詐欺には遭わないだろう」などと思い込まず、適切な対策を講じることをおすすめします。
まとめ
AI音声による詐欺の概要やAI音声による詐欺への対策、その他のAIの脅威などについて解説しました。
AI音声による詐欺とは、AIを使って生成された巧妙な音声による詐欺です。家族や上司など身近な相手の「声」で送金などを指示される場合もあり、このような詐欺が存在することを知らなければ、騙されてしまうかもしれません。
AI音声による詐欺への対策としては、このような詐欺があることを社内などに周知することや、送金マニュアルを見直すことなどが有効です。まずは弁護士に相談し、自社に合った対策を検討することからはじめるとよいでしょう。
伊藤海法律事務所はカルチャー・エンターテインメント法務、テクノロジー法務に特化しており、AIに関するトラブル対策やトラブル対応について豊富なサポート実績を有しています。AI音声による詐欺やその他のAIの脅威への対策でお困りの際は、伊藤海法律事務所までまずはお気軽にご相談ください。
