生成AIの情報漏えい対策｜入力から共有まで、データの流れを確認する

生成AIの情報漏えい対策を進めるときは、実際の業務で情報が通る場所を一度書き出してみてください。入力画面で機密を除いても、添付、検索先、会話履歴、出力の共有に同じ情報が残ることがあります。

ここでは、顧客の相談メモから提案の骨子を作る仕事を例に、導入担当者が確認する順番を示します。例は説明用です。

導入時に確認する範囲の全体像と、契約・設定・事故時の窓口はAIセキュリティの確認手順にまとめています。この記事は、一件の資料が通る経路の書き出しと、部署別の権限試験の設計に絞ります。

一件の資料が通る場所を追う

最初に、素材の保管場所、AIへ渡す項目、連携するサービス、出力の保存先、最終的な共有先を並べます。「会社が契約したAIを使う」で止めず、どのアカウントで、どの機能まで利用するかを書きます。

入力から名前を削っても、少数の顧客しか当てはまらない案件条件で特定できる場合があります。必要な情報だけ残し、機密区分が判断できない素材は管理者へ確認します。

利用プランの学習利用・保存・共有条件は、契約と設定の確認項目で照合します。そのうえで、ここでは通知やログへ実際に何が渡るかを調べます。

ログも対象です。実行エラーの通知に入力全文を付ける運用だと、通知先へ機密を広げることがあります。受付番号とエラー種別で調べられるようにし、詳細が必要なときだけ権限のある人が参照する形を検討します。

一般社員には見せない架空の資料と、全員向けの資料を用意します。利用者を変え、検索結果、引用、回答、共有リンクに何が出るかを確認します。試験結果にはアカウント、資料の版、実行日時を残してください。

試験を通った後も、接続先や利用者が変われば条件は変わります。判断する管理者、再確認が必要になる変更、異常時の連絡先を一枚にまとめます。一般的な対策の検討には、IPAのAIセキュリティ資料も参照できます。

次は人事の限定資料と全社向けの手順書を想定した試験設計です。架空の識別語を使い、実際の人事情報は入力しません。

権限変更の反映待ち、過去の会話、引用やキャッシュまで含む部署をまたぐRAGの権限試験例を使い、自社の構成に必要な試験を追加してください。

試験を通った構成と、今後許可する構成が同じかも確認します。検索先の追加、プラグイン導入、共有設定の変更があれば再試験が必要です。画面上で漏えいを再現できなかったことだけで、提供元の内部保存条件まで証明できるわけではありません。

使いたい資料と接続先の一覧があると、AI導入時の情報の扱いを相談しやすくなります。まず一業務のデータの流れから整理してください。