AI詐欺597億円被害｜声も顔も偽装される時代の企業防衛術　

2025年11月14日 2025年11月14日

サイバーレジリエンス

【要約版】
AI詐欺が"経営リスク"になりました。
2025年、AI技術の急速な発達により、
音声・映像を使った詐欺が極めて高度化しています。

金融庁は3月に発表したAIディスカッションペーパーで、
ディープフェイク技術が「従来のKYC手続きでは実在の人物との見分けが困難」
と公式に警告しました。

警察庁の最新統計（9月発表）によると、
2025年上半期の特殊詐欺被害額は597.3億円（前年同期比162.1%増）、
インターネットバンキング不正送金は42.2億円（前年同期比約7割増）
と過去最悪レベルです。

最近の手口では、

社長の声をAIでコピーして振込指示
Zoom上に偽の上司を生成して商談
請求書メールが精巧なディープフェイク
決算期を狙った偽の経理依頼

など、従来の"見抜ける詐欺"ではなくなっています。

実際の被害事例: 2024年11月、
ある日本企業の幹部がAI生成された社長の声に騙されそうになり、
3度目の送金催促で不審に思い
弁護士に確認したことで詐欺が判明しました。

発信者番号も社長の携帯電話番号に偽装されており、
日頃から社長と会話していた幹部でも見抜けませんでした。

今すぐ実施すべき３つの対策
1. 振込の2名承認ルール（声・チャットのみ不可）
2. 請求書の"契約元との照合"を必須化
3. 生成AI・ディープフェイク対策の社内教育

情報システム担当者がいない企業こそ、最もリスクが高い状況です。

【詳細版】
■ AI詐欺が本格的に"社会問題化"してきた

2025年の現状:
• 特殊詐欺被害額597.3億円（上半期、前年同期比162.1%増）
• インターネットバンキング不正送金42.2億円（上半期、前年同期比約7割増）
• 生成AIを使ったフィッシングメールは「人間が書いたかのような自然な日本語」で判別困難

技術的背景: 生成AIの急速な普及で、
「誰でも、数分で声も顔も複製できる」時代になったこと。

■ 被害が増えている4つの典型パターン

① 声をコピーした"社長なりすまし"
• 実例: 2024年11月、日本企業幹部がAI生成の社長音声で騙されそうになる
• 発信者番号偽装技術と組み合わせて使用
• 「今すぐ振り込んでほしい」「顧客トラブルで急ぎなんだ」など緊急性を演出

② Zoom上に"偽物の上司"が登場するケース
• リアルタイムでのディープフェイク映像生成
• 海外では香港で約40億円の被害事例が報告

③ 請求書メールのディープフェイク
• 過去の請求書テンプレを完全コピー
• 送信元アドレスも偽装
• 押印・担当者名も精巧に再現

④ 決算期を狙った"架空発注・偽の入金依頼"
• AIで社長・役員の声をコピーし、経理・総務へ指示
• 「決算月」「繁忙期」の業務多忙期を狙い撃ち

■ 最大の問題：社員教育だけでは対応できない段階に入った

金融庁の公式見解: 「ディープフェイク技術により、
従来のKYC手続きや認証システムでは実在の人物との見分けが困難になり、
本人確認をすり抜ける可能性がある」
つまり、「人の注意」ではなく「仕組み」で防ぐ時代に入りました。

■ 今すぐ企業が導入すべき３つの対策

① 振込・支払いは「声だけ」禁止
必ずメール（公式ドメイン）→ 稟議 → 二名承認にする。
「社長の電話で決済」は一番危険。

② 請求書の真正性チェックを"仕組み化" 必ず
• 発注元の正式メール確認
• 契約書の参照
• 社内システムでの照合を行う。担当者任せにしない。

③ 月1回の"AI詐欺対策"ミニ教育 5分のスライドでもOK。
経理・総務・営業は必須。
「声は本人の証明にならない」を社員全員が理解する。

■ まとめ：これからの詐欺は"リアルな人間"を模倣してくる

生成AIの発展は止まりません。
これからの詐欺は、
声・顔・話し方・表情・Zoom会議すべてを偽装してきます。

企業が守るべきは、「社員の注意力」ではなく「仕組み」です。
「AI詐欺は経営リスク」その認識を持つことが最初の一歩です。

参照
https://www.npa.go.jp/bureau/safetylife/sos47/new-topics/250804/01.html
https://www.fsa.go.jp/news/r6/sonota/20250304/aidp.pdf
https://scan.netsecurity.ne.jp/article/2025/10/01/53712.html
https://www.nikkei.com/article/DGXZQOUD28AUG0Y5A720C2000/
https://www.yomiuri.co.jp/national/20250918-OYT1T50053/
https://internet.watch.impress.co.jp/docs/column/netliteracy/2055258.html

※2025年11月13日時点の情報。最新情報は公式サイトで確認してください。

※今号はAIで執筆した文章を筆者が監修しています。

弊社の社名となっている「レジリエンス」は、
「回復力」や「弾性」を意味する英単語です。

つまり、環境の変化や突発的な事象に対して
しなやかに粘り強く対応していく
立ち位置を意味しています。

目まぐるしく変化する時流の中で、
それを見極めつつ流されない解決策を提案致します。

そして、弊社は、ITインフラとセキュリティの
プロフェッショナル集団として
多数の実績を誇る株式会社アイロバと
密接なパートナー関係にあります。

同社は国産独自開発のソリューションも多数保有しています。

******************************
サイバーレジリエンス株式会社　
日本レジリエンス株式会社
〒103-0026
東京都中央区日本橋兜町17番1号
日本橋ロイヤルプラザ706
Tel 03-6823-8902
E-mail: info@japan-resilience.co.jp
https://japan-resilience.co.jp/cyber
******************************

投稿者プロフィール

サイバーレジリエンス

AI詐欺597億円被害｜声も顔も偽装される時代の企業防衛術

投稿者プロフィール

最新の投稿

「アスクルのランサムウェア事件」続報と"サプライチェーンの盲点"