生成AI（ChatGPT）の情報セキュリティリスク：正確な情報と対策ガイド
サイバーレジリエンス【要約版】
最近、SNSやビジネス系メディアで
「ChatGPTによる情報漏えいが急増している」
という情報が拡散されていますが、
検証可能な証拠を伴わない情報も多く見られます。
実際に確認できている事実：
✅生成AIの情報セキュリティリスクは実在します
- 入力情報が学習データとして利用される可能性
- 機密情報の意図しない外部流出のリスク
- 生成内容の不正確性（ハルシネーション）
✅公的機関も注意喚起を行っています
- IPA（情報処理推進機構）が公式ガイドラインを公表
- 日本政府も2023年より各省庁に注意喚起
- 大手企業の多くが社内ガイドラインを策定済み
注意が必要な情報：
- 具体的な出典のない「急増」主張
- 検証できない「事例」の列挙
- 不安を煽ってサービス誘導する情報
正しい対応：
- 公的機関（IPA等）の情報を参照する
- 社内ガイドラインを策定する
- 社員教育を実施する
- 過度に恐れず、正しく活用する
生成AIは適切に利用すれば強力な生産性向上ツールです。
正確な情報に基づいて、安全に活用しましょう。
【詳細版】
■ はじめに：情報の真偽を見極める重要性
近年、生成AI（ChatGPT等）の急速な普及に伴い、
その利用リスクについても様々な情報が流通しています。
しかし、具体的な証拠や出典を伴わない情報も多く、
正確な判断が難しい状況です。
本メルマガでは、公的機関の発表や信頼できる報道を基に、
生成AIの情報セキュリティリスクと適切な対策について解説します。
■ 確認できている実際の状況
1. 日本国内での認知度向上と対応（2023年～）
◆ 政府の対応
2023年5月：内閣府・デジタル庁が各省庁に対し、
ChatGPT等の生成AIサービス利用時に機密情報を入力しないよう注意喚起
◆ 海外事例の日本への影響
2023年4月：韓国サムスン電子で従業員が
ChatGPTに社内機密情報を入力し、情報漏えいリスクが発覚
この事例が日本でも広く報道され、日本企業の警戒感が高まる契機となりました。
◆ 一般的に認識されているリスク
生成AI利用において、以下のようなリスクが専門家や公的機関によって指摘されています：
主なリスク：
- 入力情報の学習利用
- 無料版サービスでは入力データが学習に使われる可能性
- 企業秘密や個人情報が意図せず他のユーザーへの回答に反映されるリスク
- 意図しない情報流出
- 従業員が「機密情報」と認識せずに入力
- 顧客名、プロジェクト名、金額等を含むプロンプトの入力
- 生成内容の不正確性（ハルシネーション）
- AIが誤った情報を生成
- 存在しない判例や論文を「事実」として提示
- 著作権・知的財産権の問題
- 生成された文章・画像が既存の著作物に類似する可能性
- 商用利用時の権利関係が不明確
■ よくある「検証できない情報」の特徴
SNSやビジネス系メディアで拡散される情報の中には、
以下のような特徴を持つ検証困難なものがあります：
注意すべき情報の特徴：
具体的な組織名・日時が明記されていない。
例：「ある出版社で…」「とある自治体で…」
報道や公式発表へのリンクがない
実際の事例であれば、必ず報道機関や公的機関の発表があります。
- 「急増している」と断定するが統計データがない
- 公的機関の統計や調査レポートの引用がない
- 不安を煽り、サービスへ誘導する構造
- 「対策が急務です」→「弊社のコンサルティング…」
- 「〇〇でも強調されています」と言及するが出典不明
- 「日経新聞でも」「IPAでも」と言うが、該当記事・文書へのリンクがない
■ 実在する情報セキュリティリスク
生成AIには確かにリスクが存在します。
以下、実際に注意すべきポイントを解説します。
リスク1：入力情報の学習利用
問題点：
- ChatGPT等の無料プランでは、入力データが将来の学習に利用される可能性
- 企業秘密や個人情報が意図せず他のユーザーへの回答に反映されるリスク
対策：
- 企業向けプラン（ChatGPT Enterprise、API利用等）ではデータ学習をオプトアウト可能
- 利用規約を確認し、適切なプランを選択
リスク2：意図しない情報流出
問題点：
- 従業員が「機密情報」と認識せずに入力してしまう
- 顧客名、プロジェクト名、金額等が含まれたプロンプトを入力
対策：
- 入力禁止情報の明確化（後述）
- 社員教育の徹底
リスク3：生成内容の不正確性
問題点：
- AIが誤った情報を生成（ハルシネーション）
- 存在しない判例や論文を「事実」として提示するケースも
対策：
- 生成された内容は必ず人がファクトチェック
- 重要な判断には使用しない
リスク4：著作権・知的財産権の問題
問題点：
- 生成された文章・画像が既存の著作物に類似する可能性
- 商用利用時の権利関係が不明確なケースも
対策：
- 生成物をそのまま使用せず、必ず編集・確認
- 重要な創作物は専門家によるチェック
■ 企業が策定すべきガイドライン
【入力禁止情報リスト】
社内ガイドラインで明確に禁止すべき情報：
✗ 絶対に入力してはいけない情報：
- 個人情報
- 氏名、住所、電話番号、メールアドレス
- マイナンバー、保険証番号
- 顔写真、指紋等の生体情報
- 顧客・取引先情報
- 顧客名、企業名
- 契約内容、取引条件
- 商談内容、提案書
- 社外秘情報
- 未発表の製品・サービス情報
- 経営戦略、事業計画
- 財務情報、未公開の決算データ
- 契約関連
- 契約書の原文
- NDA（秘密保持契約）対象情報
- 法務相談内容
- 技術情報
- システム構成図
- セキュリティ設定
- ソースコード（機密性の高いもの）
- パスワード、認証情報
- 人事情報
- 従業員の評価
- 給与・報酬情報
- 採用選考に関する情報
- 医療・健康情報
- 患者情報、カルテ内容
- 健康診断結果
- 病歴、投薬情報
【推奨される利用シーン】
✓ 安全に活用できる場面：
- 文書作成支援
- 議事録の要約（個人名・固有名詞を削除後）
- メール文面の改善（一般的な内容のみ）
- 報告書のテンプレート作成
- 学習・教育
- 専門用語の説明
- 一般的な業務知識の学習
- プログラミング学習
- アイデア出し
- ブレインストーミング
- 企画のたたき台作成
- マーケティングアイデアの発想
- 公開情報の整理
- 公開されている情報の要約
- データの分類・整理
- 公開文書の校正
重要な原則：
- 生成された内容は必ず人がレビュー
- 重要な判断には使用しない
- 事実確認を必ず行う
■ 結論：正しく恐れ、賢く活用する
生成AIのリスクは実在します
しかし、過度に恐れる必要はありません
- 適切な知識と対策があれば安全に活用可能
- 根拠のない「急増」情報に惑わされない
- 具体的な証拠を伴わない情報は慎重に判断
- 公的機関の情報を優先的に参照
- 社内ガイドラインの策定は必須
- 「禁止リスト」の明確化
- 全社員への周知徹底
- 継続的な教育と見直し
- 生成AIは強力な生産性向上ツール
- 正しく使えば業務効率が大幅に向上
- 競争力強化につながる
「使わない」ではなく「安全に使う」姿勢が重要です。
※2025年12月3日時点の情報。最新情報は公式サイトで確認してください。
※今号はAIで執筆した文章を筆者が監修しています。
弊社の社名となっている「レジリエンス」は、
「回復力」や「弾性」を意味する英単語です。
つまり、環境の変化や突発的な事象に対して
しなやかに粘り強く対応していく
立ち位置を意味しています。
目まぐるしく変化する時流の中で、
それを見極めつつ流されない解決策を提案致します。
そして、弊社は、ITインフラとセキュリティの
プロフェッショナル集団として
多数の実績を誇る株式会社アイロバと
密接なパートナー関係にあります。
同社は国産独自開発のソリューションも多数保有しています。
******************************
サイバーレジリエンス株式会社
日本レジリエンス株式会社
〒103-0026
東京都中央区日本橋兜町17番1号
日本橋ロイヤルプラザ706
Tel 03-6823-8902
E-mail: info@japan-resilience.co.jp
https://japan-resilience.co.jp/cyber
******************************
投稿者プロフィール
最新の投稿
ビジネスコラム2025年12月5日アスクル・アサヒビールで相次ぐ大規模サイバー攻撃｜原因・影響・企業が取るべき対策まとめ
情報2025年12月4日生成AI（ChatGPT）の情報セキュリティリスク：正確な情報と対策ガイド - 情報2025年11月27日AI詐欺（ディープフェイク詐欺）の最新動向と企業が取るべき対策
- 情報2025年11月14日AI詐欺597億円被害｜声も顔も偽装される時代の企業防衛術
