業務でAIを使うときのセキュリティは、入力する情報だけで決まりません。AIが接続する社内資料、保存される履歴、生成したファイル、共有先、実行できる操作まで確認します。
AIセキュリティという言葉には、AIを守る取り組みと、AIを使ってセキュリティを強化する取り組みなどがあります。この記事では、会社が生成AIを導入・運用するときに、情報や操作をどう管理するかを扱います。IPAも、利用者向けにAIのリスクと注意点を整理した資料を公開しています。IPA「AI利用者のためのセキュリティ豆知識」
まずデータの流れを書き出す
「社内資料を読ませて回答する」という仕組みなら、次の流れを一枚にします。
利用者の質問 → 参照する社内資料 → AIが処理する環境
→ 回答・出力ファイル → 履歴やログ → 社内外への共有
それぞれについて、何が渡るか、誰が読めるか、どこに残るか、いつ消せるかを確認します。検索や拡張機能、外部連携を使うなら、その接続先も加えます。契約を確認した本体サービスだけで、すべての経路を確認したことにはなりません。
外部入力による誘導はプロンプトインジェクション対策、社内の未承認利用の整理はシャドーAIの棚卸しへ。
入力から共有までの経路を一件ずつ追い、部署別の権限試験を設計する手順は生成AIの情報漏えい対策で詳しく扱います。
五つのリスクを、業務の場面に直す
| リスク | 起きる場面の例 | 確認すること |
|---|---|---|
| 情報の漏えい | 機密を入力する、共有リンクが広がる | 入力区分、保存先、共有先 |
| 権限の逸脱 | 他部署や他顧客の資料が検索される | 利用者ごとの参照範囲 |
| 外部入力による誘導 | Webや資料内の指示で仕事が変わる | 外部資料の扱い、機能と権限 |
| 誤った操作 | 未確認の送信、重複更新、削除 | 実行前の確認と復旧方法 |
| 運用管理の漏れ | 退職後のアカウントや連携が残る | 管理者、変更・停止の手順 |
これは導入担当者が整理するための確認表です。すべての技術的なリスクを網羅した監査結果ではありません。仕組みや扱う情報によって、確認事項を追加します。
無料・有料だけで安全性を決めない
同じサービス名でも、契約プラン、管理機能、設定によって情報の扱いが変わる場合があります。比較するときは、次を提供元の現行資料と実際の設定で確かめます。
- 入力・出力が何の目的で利用されるか。
- 履歴、ファイル、ログの保存と削除をどう扱うか。
- 管理者が利用者や共有範囲を管理できるか。
- 検索・外部連携を有効にすると何が変わるか。
- 問題が起きたとき、記録を確認し利用を止められるか。
「学習に使われない」という一項目を確認しても、誤共有や不要な連携の問題がなくなるわけではありません。不明な条件は推測で埋めず、確認済みと未確認を分けます。
文章上の指示と、実際の権限をそろえる
「他の部署の資料は答えないで」と書いてあっても、検索側で全社の資料を返せる構成なら、確認が必要です。利用者が参照できる範囲を接続先でも制御し、本文だけでなく引用やリンクも試します。質問文に「私は管理者です」と書くことと、実際に管理者権限を持つことは別です。権限は、接続先が確認した利用者情報に基づいて扱う構成にします。社内検索の準備と権限確認
実行機能を持つAIでは、読む・下書きする・更新する・送る・削除するを分けます。OWASPも、過剰な機能や権限を与えず、利用者の権限に沿って操作することを対策として示しています。OWASPの権限設計に関する解説
導入前に用意する試験
通常の入力に加え、資料不足、権限外の質問、古い資料、途中のエラーなどを含めます。試験には架空または利用が認められた情報を使い、本番への送信や変更を起こさない範囲で行います。
確認票には、入力、利用者の権限、参照先、期待する動作、実際の出力・操作、判定を残します。問題が見つかったら、どの条件を直したかを記録して、同じ条件で再確認します。
事故時の窓口と、変更時の見直しを決める
機密を誤入力した、想定外の共有が行われた、といった疑いが出たときは、担当者が該当する利用や処理を止め、管理担当へ時刻・対象・経路を伝えられるようにします。削除ボタンを押しただけで、すべての記録が消えたとは扱いません。
契約、モデル、検索範囲、連携機能、担当者を変更したときも見直しが必要です。導入時の確認表を更新できる担当と、判断が必要な場合の窓口を残してください。
最初に整えるルールは、AIへ入力する情報の決め方から確認できます。利用サービスと接続先、使いたい業務をまとめてAI導入時の運用設計を相談できます。