生成AIのセキュリティ対策では、情報漏えい、誤情報、著作権侵害を防ぐための具体的な社内ルールが必要です。
ChatGPTをはじめとする生成AIは、文章の作成、情報整理、企画、翻訳、プログラム開発など、さまざまな業務で使われるようになりました。
仕事を速く進められる一方で、社員がそれぞれの判断で利用すると、社内の機密情報や個人情報を入力してしまう危険があります。
AIが作った誤った情報を、そのまま社外へ公開してしまう可能性もあります。
生成AIの利用をすべて禁止すれば安全になるかというと、必ずしもそうではありません。会社が利用状況を把握できないまま、社員が個人のアカウントや無料サービスを使う「シャドーAI」が発生することも考えられます。
必要なのは、生成AIを使わせないことではなく、安全に使うためのルールと教育です。
この記事では、企業が生成AIのセキュリティ対策として決めておきたい7つのルールと、社員研修の進め方を解説します。
生成AIにはどのようなセキュリティリスクがあるのか
IPAが発表した「情報セキュリティ10大脅威2026」では、「AIの利用をめぐるサイバーリスク」が組織向け脅威の第3位に入りました。
IPAは、主な問題として次のようなリスクを挙げています。
- AIに対する理解不足による意図しない情報漏えい
- 他者の権利の侵害
- AIが生成した結果を十分に確認せず、鵜呑みにすること
- AIを悪用したサイバー攻撃の容易化や巧妙化
生成AIのセキュリティというと、外部からのサイバー攻撃だけを想像しがちです。しかし、実際には、社員が何気なく入力した文章やファイルから問題が発生する可能性があります。
例えば、次のような使い方です。
- 顧客から届いたメールを、そのまま生成AIへ貼り付けて返信文を作る
- 未発表の商品情報を入力してキャッチコピーを考えさせる
- 社員の氏名や評価情報が入った資料を要約させる
- 契約書をアップロードして問題点を確認させる
- プログラムのソースコードを入力して修正させる
- AIが作った統計や法律の説明を確認せず、資料へ掲載する
利用者に悪意がなくても、情報漏えいや誤情報の発信につながることがあります。
だからこそ、「気をつけて使ってください」という注意だけで終わらせず、具体的なルールを決める必要があります。
ルール1．利用してよい生成AIサービスを決める
最初に、業務で利用してよい生成AIサービスを会社として決めます。
社員が自由にサービスを選べる状態では、会社が次の事項を把握できません。
- 入力した情報が保存されるのか
- 入力情報がAIの学習に利用されるのか
- データがどの国や地域で処理されるのか
- 管理者が利用者を管理できるのか
- 退職者のアカウントを停止できるのか
- 利用履歴を確認できるのか
- セキュリティ事故が起きたときの問い合わせ先があるのか
同じ生成AIでも、無料の個人向けサービスと法人向けサービスでは、契約条件や管理機能が異なる場合があります。
サービス名だけで判断せず、利用規約、プライバシーポリシー、データの保存・学習条件、管理機能などを確認してください。
また、会社が契約したアカウントを使うのか、個人アカウントの利用を認めるのかも明確にします。
「生成AIを利用してよい」とだけ伝えるのではなく、「会社が許可したサービスを、会社が指定したアカウントで利用する」と定めることが重要です。
ルール2．生成AIへ入力してはいけない情報を具体的に決める
「機密情報を入力しないでください」というルールだけでは、社員によって機密情報の解釈が変わります。
入力してはいけない情報を、具体的に示す必要があります。
代表的なものには、次のような情報があります。
- 顧客の氏名、住所、電話番号、メールアドレス
- 社員の人事情報、給与情報、健康情報
- マイナンバーや本人確認書類の情報
- 未公開の経営情報、財務情報、商品情報
- 契約書、見積書、請求書
- 取引先から秘密として預かった情報
- 公開前の企画書、設計図、研究データ
- ID、パスワード、APIキー
- システムの設定情報や非公開のソースコード
「名前を消せば入力してよい」とも限りません。
会社名を伏せても、部署、役職、契約金額、発生日時、案件内容などを組み合わせると、顧客や案件を特定できることがあります。
匿名化するときは、一部の固有名詞を削除するだけではなく、誰の情報なのかを特定できない状態になっているかを確認します。
IPAの「中小企業の情報セキュリティ対策ガイドライン」でも、生成AIへ社内機密や個人情報などの重要なデータを入力することによる情報流出の可能性が示されています。
ルール3．生成AIを利用してよい業務と禁止する業務を決める
生成AIに入力する情報だけでなく、どの業務に使ってよいのかも決めます。
例えば、次のような作業は、比較的利用しやすいでしょう。
- 一般的な文章のたたき台を作る
- 公開情報を整理する
- アイデアを複数出す
- 自分で書いた文章の誤字を確認する
- 会議の議題案を作る
- 公開済みの文章を短く要約する
一方で、次のような業務は、AIだけで判断させない仕組みが必要です。
- 採用や人事評価
- 契約や法務に関する最終判断
- 医療や健康に関する判断
- 融資、与信、投資に関する判断
- 顧客への補償や謝罪内容の決定
- 安全や事故に関わる判断
- 社外へ公表する重要な情報の作成
生成AIは、責任を引き受けてくれる担当者ではありません。
判断を支援する道具として使うのか、文章の下書きだけに使うのか、最終成果物まで作らせるのか。業務の重要度に応じて、利用できる範囲を決めておく必要があります。
ルール4．AIの回答は必ず人が確認する
生成AIは、もっともらしい誤情報を回答することがあります。
存在しない法律、統計、人物、制度、商品、ウェブサイトなどを示す可能性もあります。
文章が自然に見えることと、内容が正しいことは別です。
AIの回答を業務で利用する場合は、少なくとも次の点を確認します。
- 事実関係は正しいか
- 情報は最新か
- 根拠となる資料が存在するか
- 数字や日付は正しいか
- 引用元の内容と一致しているか
- 差別的または不適切な表現がないか
- 社内ルールや業界の基準に反していないか
- 顧客へ誤解を与える表現になっていないか
特に、法律、医療、金融、情報セキュリティなど、誤りによる影響が大きい情報は、所管官庁や公的機関の資料、契約している専門家などへ確認する必要があります。
生成AIへ「出典を教えてください」と質問し、表示されたURLをそのまま信用することも危険です。
リンク先を実際に開き、その資料が存在するか、記載内容が回答と一致するかまで確認してください。
ルール5．著作権や他者の権利を確認する
生成AIで作った文章や画像だから、自由に使えるとは限りません。
生成物が既存の文章、画像、キャラクター、ロゴ、デザインなどに似ている場合、著作権や商標権などの問題が生じる可能性があります。
また、実在する人物の顔や声を使った生成物では、肖像権、パブリシティ権、名誉、プライバシーなどへの配慮も必要です。
社外へ公開する前に、次の事項を確認します。
- 特定の作品や作者の表現をそのまままねていないか
- 他社のロゴやキャラクターに似ていないか
- 実在する人物の顔や声を無断で使っていないか
- 第三者が作った文章や画像を入力していないか
- 利用した生成AIサービスの商用利用条件を満たしているか
- 納品先や掲載媒体の利用条件を満たしているか
生成AIで作ったことだけを理由に、権利侵害の可能性がなくなるわけではありません。
最終的に利用する人や企業が、内容を確認する必要があります。
ルール6．問題が起きたときの報告先と対応手順を決める
どれだけルールを整えても、入力ミスや誤った公開を完全になくすことは困難です。
重要なのは、問題が起きたときに隠さず、速やかに報告できることです。
例えば、社員が誤って顧客情報を生成AIへ入力してしまった場合、次の事項を確認する必要があります。
- どのサービスを利用したか
- いつ入力したか
- どのアカウントを利用したか
- 何の情報を入力したか
- ファイルをアップロードしたか
- 入力履歴を削除できるか
- サービス提供会社への連絡が必要か
- 顧客や関係者への報告が必要か
最初の報告が遅れるほど、影響範囲の確認や対応が難しくなります。
社内ルールには、禁止事項だけでなく、事故や間違いに気づいたときの連絡先も記載してください。
情報システム部門、情報セキュリティ責任者、個人情報管理責任者、上司など、誰へ報告するのかを明確にします。
「違反したら処罰する」という伝え方だけでは、社員が報告をためらう可能性があります。
間違いに気づいたら、すぐに相談できる文化をつくることもセキュリティ対策の一つです。
ルール7．一度の説明で終わらせず、継続的に研修する
生成AIのサービスや機能は、短期間で変化します。
一度ガイドラインを配布しただけでは、新しい機能やリスクへ対応できません。
また、社員が文書を開いたことと、内容を理解していることも同じではありません。
生成AIの社員研修では、次のような内容を扱います。
- 生成AIの基本的な仕組み
- 生成AIへ入力してはいけない情報
- 会社が利用を認めているサービス
- 個人情報と機密情報の扱い
- AIの誤回答と確認方法
- 著作権や他者の権利
- 問題が起きたときの報告方法
- 実際の業務を想定した事例問題
研修後には、確認テストを実施することも有効です。
単に用語を覚えているかではなく、具体的な場面で正しく判断できるかを確認します。
例えば、次のような問題です。
顧客から届いたメールへの返信文を生成AIで作成したい。顧客名だけを削除すれば、メール本文をすべて入力してよいでしょうか。
このような事例を使うことで、「個人情報を入力しない」という言葉だけでは見えなかった判断の難しさに気づけます。
研修の目的は、禁止事項を暗記させることではありません。
業務中に迷ったとき、立ち止まって確認できる社員を増やすことです。
生成AIのセキュリティ対策は「規程・仕組み・教育」で考える
生成AIを安全に利用するためには、社員一人ひとりの注意だけに頼るべきではありません。
次の三つを組み合わせる必要があります。
1．規程
利用できるサービス、入力禁止情報、利用できる業務、確認責任、事故発生時の連絡方法を定めます。
2．仕組み
法人アカウント、アクセス権限、利用履歴、退職者のアカウント停止などを管理します。
3．教育
実際に起こり得る事例を使って学び、確認テストで理解度を確かめます。
規程を作っても、読まれなければ意味がありません。
研修を実施しても、実際の業務で使える仕組みがなければ、個人アカウントの利用へ戻ってしまう可能性があります。
また、システムを導入しても、正しい使い方を理解していなければ事故は防げません。
規程・仕組み・教育を一体として考えることが大切です。
経済産業省と総務省の「AI事業者ガイドライン」でも、AIの安全な活用に向けて、リスクを把握し、適切な対策を継続的に行う考え方が示されています。
FireRocketで生成AIセキュリティ研修を実施する
FireRocketでは、共感講座®「情報セキュリティ AI利用編」を配信できます。
生成AIを使うときに起こり得る問題を、アニメーションによる事例から学ぶ教材です。
動画を見て終わるのではなく、確認テストによって理解度を確認できます。
また、学習画面のAI先生へ、教材について質問することもできます。
管理者は、次のような情報を確認できます。
- 誰が受講を始めたか
- 誰がまだ受講していないか
- 誰が研修を修了したか
- 確認テストに合格したか
- どの部署や組織で受講が遅れているか
生成AIの利用ルールは、配布しただけでは定着しません。
社員が内容を理解し、実際の場面で正しく判断できる状態をつくるところまでが研修です。
まとめ
企業が生成AIを安全に利用するために、決めておきたいルールは次の7つです。
- 利用してよい生成AIサービスを決める
- 入力してはいけない情報を具体的に決める
- 利用してよい業務と禁止する業務を決める
- AIの回答を必ず人が確認する
- 著作権や他者の権利を確認する
- 問題発生時の報告先と対応手順を決める
- 継続的に研修し、理解度を確認する
生成AIには、仕事の進め方を大きく変える力があります。
その力を安全に生かすために必要なのは、漠然とした禁止ではありません。
社員が「何をしてよいのか」「何をしてはいけないのか」「迷ったときに誰へ相談するのか」を理解できる、具体的なルールと継続的な教育です。
企業研修やeラーニング教材の制作については、グラブデザインのEdTechDESIGNでもご紹介しています。