問題 2★★★

情報セキュリティ部門が、社員の質問に情報セキュリティ規程に基づいて答える 生成AIのチャットを用意する。規程は年に数回改定され、改定後はすぐに新しい内容で 答えさせたい。最も適切な方法はどれか。

正解:ア

各選択肢の解説

  1. ア規程の文書を検索して回答の根拠にさせ、改定時はその文書を最新版に差し替える。

    正解。RAGによる知識連携です。回答のたびに規程の文書を検索して材料にするので、 文書を差し替えれば次の質問から新しい内容が根拠になります。 根拠の箇所を示させれば、社員が原文で確かめることもできます。

  2. イ現行の規程でモデルを追加学習させ、改定内容は年1回の再学習の際にまとめて反映する。

    誤り。追加学習(ファインチューニング)はモデル自体に内容を覚え込ませる方法です。 改定のたびに学習し直す手間がかかり、この運用では再学習までの間、 古い規程に基づいて答え続けます。「すぐに反映」という条件に合いません。

  3. ウ回答のばらつきが出ないよう、ランダム性を最も低く設定して誤った回答を防ぐ。

    誤り。ランダム性の制御は、出力の揺れ幅を調整するものです。低くすれば 同じ質問に似た答えを返しやすくなりますが、AIが知らない改定後の内容を 正しく答えられるようにはなりません。古い内容を安定して答えるだけです。

  4. エ指示文に「必ず最新の規程に基づいて回答すること」という一文を書き加えておく。

    誤り。これはプロンプトエンジニアリングで、指示の書き方で出力を整える方法です。 最新の規程がAIに渡っていなければ、指示しても参照のしようがありません。 それらしい内容をもっともらしく答える危険が残ります。

理解を深めるために

覚えさせるより、手元に最新版を置いて読ませる

規程に詳しい人を育てるとき、条文を丸暗記させる方法と、最新版の規程集を机に置いて 質問のたびに引かせる方法があります。改定が多い規程なら、後者のほうが間違いが少なく済みます。 規程集を差し替えるだけで、その日から新しい内容で答えられるからです。 RAGによる知識連携は、この「規程集を引かせる」やり方にあたります。

なぜRAGが合うのか

RAGは、質問に関係する文書を検索で取り出し、それを材料として生成AIに回答を作らせる仕組みです。

  • 知識はモデルの外の文書に置くので、文書を差し替えれば反映が済む
  • モデルを学習し直す必要がない
  • 回答の根拠にした箇所を示させれば、利用者が原文を確かめられる

ただし、RAGを使っても、事実と異なる内容をもっともらしく出力する現象(ハルシネーション)が なくなるわけではありません。検索で関係の薄い箇所を拾ったり、材料を読み違えたりすることがあります。 抑えるための手段であって、なくす手段ではないので、重要な判断は社員が規程の原文で確かめる 運用とあわせて使います。

混同しやすいものとの違い

方法 何を変えるか 規程の改定への追従
RAGによる知識連携 回答の材料(外部の文書) 文書の差し替えで反映できる
追加学習(ファインチューニング) モデル自体 学習し直すまで古いまま
ランダム性の制御 出力の揺れ幅 知識は変わらない
プロンプトエンジニアリング 指示の書き方 渡していない情報は使えない

試験では、「AIが知らない情報を使わせたいのか」「出力の形や揺れを整えたいのか」を先に見分けます。 知らない情報、とくに頻繁に変わる情報を使わせたいなら、外部の文書をつなぐ方法が候補になります。

前の問題へ次の問題へ