「社長の声で電話がかかってきたから、言われた通りに振込手続きをしてしまった」——こうした被害は、もはや特殊なケースではありません。「本人の声だから」「本人の顔だから」信用する、という従来型の本人確認は、AI技術によって精巧な偽の音声・映像(ディープフェイク)を誰でも短時間で作れるようになったことで、通用しにくくなりつつあります。
被害は、一部の大企業だけの話ではない
調査会社Gartnerが、世界のサイバーセキュリティ責任者302人を対象に行った調査では、過去12カ月の間になりすましなどのソーシャルエンジニアリングを伴うディープフェイク攻撃を経験した企業が62%にのぼりました。本人確認技術を手がけるRegula社の調査でも、動画によるディープフェイク詐欺を経験した企業の割合は、2022年の29%から2024年には49%まで増加しています。
出典:Regula「Deepfake Fraud Doubles Down」調査(Sapio Research実施、意思決定者575人が対象)における、動画ディープフェイク詐欺を経験した企業の割合
いずれも、特定の業界や大企業に限った話ではありません。多くの企業にとって、すでに現実的なリスクになっているということです。
企業では、どんな場面で起こり得るのか
特に多いのが、経営者になりすました音声・映像を使う手口です。香港のある企業では、経理担当者がオンライン会議に参加したところ、そこに映っていたCFO(最高財務責任者)や同僚全員がAIによる偽の映像・音声で、経理担当者は複数回にわたり、約2,560万ドル(当時のレートで約38億円)を送金してしまったという事例が報告されています。AIセキュリティ企業Resemble AIの調査でも、2025年第1四半期だけで、世界全体のディープフェイク詐欺による被害額が2億ドル(約290億円)を超えたと報告されており、被害の広がるスピードの速さがうかがえます。
企業の業務フローの中では、次のような場面で特にリスクが高まります。
- 経営者や役員からの「電話一本」での振込・送金指示
- オンライン会議での経営者・役員へのなりすまし
- 取引先の担当者になりすまし、契約内容や支払先の変更を持ちかける手口
- 「至急」「他言無用」など、確認する時間を与えない指示
なぜ、ディープフェイク詐欺は成立してしまうのか
背景にあるのは、多くの企業が「本人の声だから」「本人の顔だから」という理由だけで、指示や依頼を信用する運用を続けてきたことです。これまでは、声や顔をそっくりに再現することが技術的に難しかったため、この確認方法でも十分に機能していました。しかし今は、AIによって、声や顔そのものが本人確認の材料として弱くなっています。
これはAI技術そのものだけの問題ではありません。むしろ、「声や顔だけで重要な判断をしてしまう」業務フローの側に、見直すべき点があるという捉え方が重要です。
会社としてできる対策
ディープフェイクの被害を防ぐうえで有効とされているのは、特別なツールの導入以前に、業務フローと社内ルールの見直しです。
- 高額な振込・送金には、電話や映像とは別の経路(対面・既存の申請システムなど)での再確認を必須にする
- 電話・音声メッセージだけで、重要な意思決定や送金指示を完結させない
- 「緊急」「至急」の指示ほど、一度立ち止まって確認するルールを徹底する
- 経営者・役員と従業員の間で、事前に本人確認の方法や合言葉を決めておく
- ディープフェイク・なりすましの手口について、従業員向けの教育・周知を行う
- AI利用ルールとセキュリティルールを別々に考えず、一体で整備する
「経営者からの指示だから」という理由だけで、電話や音声メッセージひとつで重要な意思決定を進めてしまう運用は、今の時代においてリスクが高いといえます。
制度面でも、対応が動き始めている
日本国内でも、自民党のディープフェイク対策プロジェクトチーム(座長・平将明衆議院議員)が2026年6月25日、高市早苗首相への提言を提出しました。生成AIを悪用したなりすまし詐欺広告に対応するため、広告を扱うプラットフォーム事業者に広告主の本人確認を義務付ける法整備の検討や、AIで作成されたコンテンツであることを明示する仕組みづくりなどを求めています。
自民党の合同プロジェクトチームで、座長は平将明(たいら まさあき)衆議院議員が務めています。台湾の前デジタル担当政務委員オードリー・タン氏からのヒアリングも行いながら提言をまとめ、2026年5月28日に黄川田仁志消費者担当大臣、29日に松本尚デジタル大臣・林芳正総務大臣、6月25日には高市早苗首相へ、それぞれ申し入れを行いました。
ただし、こうした制度整備を待っているだけでは、目の前のリスクには対応できません。ルールが整うまでの間も、企業自身が本人確認の運用を見直しておく必要があります。
まとめ:「本人らしさ」に頼らない確認の仕組みへ
AIによって、声や顔といった「本人らしさ」そのものが偽装できる時代になりました。だからこそ企業に求められているのは、「本人の声・顔だから信用する」という確認方法から、「重要な指示ほど、複数の方法で確認する」という運用へのアップデートです。
AI時代のセキュリティ対策は、検知ツールを導入すれば終わり、というものではありません。人がどう判断し、業務フローの中でどこを確認ポイントにするかまで含めて設計することが重要です。PIMOAでも、AI活用を検討する企業様に対して、便利な使い方だけでなく、どう安全に使うかまで含めた利用ルールの整備をあわせてご提案しています。
参考記事
Why CIOs Can't Ignore the Rising Tide of Deepfake Attacks - Gartner
Deepfake Fraud Doubles Down - Regula
「対応しない事業者を放置しない」ディープフェイク対策PTが提言申し入れ - 自由民主党