正解:ア
各選択肢の解説
ア文書ごとの閲覧権限をデータストアに引き継ぎ、質問者の権限で検索対象を絞る。
正解。回答の材料を取り出す段階で、質問した社員が本来見られる文書だけに 絞ります。見られない文書がそもそも生成AIに渡らないので、 回答への混入を構造的に抑えられます。
イ生成AIへの指示に「人事評価の資料の内容は回答しない」と書き加えておく。
誤り。指示文で禁じても、生成AIが従うかは確実ではなく、質問の工夫 (プロンプトインジェクション)で破られることがあります。資料自体は AIに渡っているので、権限で取り出す段階を絞る対策の代わりになりません。
ウ文書を取り込む前に内容を検査し、不正な指示文を含む文書を除外する。
誤り。これは参照データに悪意ある指示が紛れ込む汚染(ポイズニング)への 対策です。データの正しさを守る対策で、正しい文書を権限のない人に 見せない、という今回の機密性の問題は解決しません。
エ回答文を生成した後に、氏名などの個人情報だけを伏せ字にして表示する。
誤り。生成後に一部を隠すだけでは、氏名以外の評価の内容や、言い換えられた 表現は残ります。資料が回答の材料に使われること自体は止まらず、 取り出す段階で絞る対策に比べて漏れを防ぎきれません。
理解を深めるために
元の書庫の鍵を、検索の窓口にも付ける
社内の文書は、ふつう部署や役職ごとに閲覧権限が決まっています。 ところが、RAGのために全文書を1つの検索用データストアへまとめて取り込むと、 元の書庫に掛かっていた鍵が外れた状態になりがちです。誰が質問しても 同じ文書の山から材料が取り出され、生成AIの回答を通じて内容が伝わってしまいます。
なぜ「取り出す段階」で絞るのか
RAGは、質問に関係する文書をデータストアから検索して取り出し、それを 生成AIに渡して回答を作らせる仕組みです。漏えいを防ぐ要は、この取り出す段階です。
- 文書ごとの閲覧権限をデータストア側にも持たせる
- 検索のたびに質問者の権限を確かめ、見られる文書だけを材料にする
- 生成AIに渡らなかった文書は、回答に混ざりようがない
OWASPのLLMアプリケーション向けのリスク一覧(2025年版)も、権限を考慮した データストアとデータセットの分割を緩和策に挙げています。ただし、生成AIを 使うシステムで情報の漏れを完全に防げる単独の対策はありません。 取り出す段階の権限制御を土台に、ログの監視などを重ねて運用します。
混同しやすいものとの違い
| 対策 | 何を防ぐか・限界 |
|---|---|
| 検索時に質問者の権限で絞る | 権限のない文書を回答の材料にしない |
| 指示文で回答を禁じる | 生成AIが従う保証がなく、指示の上書きで破られうる |
| 取り込み前の内容検査 | 悪意あるデータの混入(完全性)を防ぐ |
| 生成後の伏せ字処理 | 一部は隠せるが、材料に使われること自体は止まらない |
試験では、守りたいのが「誰に見せるか(機密性)」なのか「データが正しいか(完全性)」 なのかを先に見極め、どの段階で止める対策かで選びます。