正解：ウ
各選択肢の解説
ア管理者アカウントのまま、指示文に「削除と社外送信は行わないこと」と書き加える。
誤り。指示文の工夫（プロンプトエンジニアリング）は出力の傾向を変えるもので、 AIがその指示を必ず守る保証にはなりません。参照した文書に紛れた別の指示に 従ってしまうこともあり、権限が残っている限り削除や送信はできてしまいます。
イ管理者アカウントのまま、AIエージェントの操作をすべて記録し、月に1回見直す。
誤り。操作の記録は、何が起きたかを後から確かめる対策です。誤った削除や 社外への送信が起きた後でしか気づけず、起こさせない対策にはなりません。 記録は、権限を絞ったうえで併せて取るものです。
ウ履歴の参照と下書きの作成だけができる専用のアカウントを作り、それを連携させる。
正解。任せる業務に必要な操作だけを、仕組みとして許可する考え方です。 AIが誤った判断をしても、削除や社外送信はそもそも実行できないので、 被害が起きる範囲を事前に閉じておけます。
エ導入担当者本人のアカウントを連携させ、操作の責任を担当者が負うことにする。
誤り。責任の所在を決めても、できる操作の範囲は狭まりません。さらに、人と AIの操作が同じアカウントで記録されるため、どちらが行ったのかを後から 見分けられなくなります。AIには専用のアカウントを割り当てます。
理解を深めるために
鍵束ごと渡さず、必要な鍵だけ渡す
倉庫の片付けを手伝ってもらうとき、事務所の金庫まで開く鍵束を「くれぐれも金庫は 開けないで」と言って渡すより、倉庫の鍵だけを渡すほうが確実です。口頭の注意は 守られないことがありますが、持っていない鍵では金庫は開きません。 AIエージェントに業務を任せるときも同じで、できることの範囲を仕組みで閉じておくのが基本です。
なぜ権限を絞るのか
AIエージェントは、目標に向けて自分で手順を決め、連携したシステムを操作して処理を進めます。 人が一つひとつ指示しない分、誤った判断や、悪意ある入力に引きずられた判断が、 そのまま操作として実行されるおそれがあります。
- 指示文で禁じる: AIの判断に頼るので、守られる保証がない
- 権限を絞る: 判断を誤っても、許されていない操作は実行できない
- 記録を取る: 起きたことを後から確かめる。単独では起こさせない対策にならない
安全性への配慮として、AIの行動が想定の範囲から外れないようにする歯止めを ガードレールと呼びます。連携させるアカウントの権限を、任せる業務に必要な 参照と下書きだけに絞るのは、その最も確実な置き方の一つです。
混同しやすいものとの違い
| 見直し方 | 何で止めるか | 削除・社外送信は起きうるか |
|---|---|---|
| 専用アカウントで必要な操作だけ許可 | システムの権限 | 実行できない |
| 指示文で禁止事項を伝える | AIの判断 | 起きうる |
| 操作の記録を月1回見直す | 事後の確認 | 起きうる（後で気づく） |
| 担当者のアカウントを使い責任を負わせる | 責任の所在 | 起きうる（人とAIの区別も付かない） |
試験では、「AIにお願いしている」のか「仕組みでできなくしている」のかを見ます。 AIの判断に頼らずに止められる対策を選んでください。