正解：ア
各選択肢の解説
ア提案ごとに、判断に使ったログと不審とみた理由を示させ、担当者が確かめてから承認する。
正解。承認が形だけになった原因は、担当者が判断の中身を見ていないことです。 根拠を示させて人が確かめる手順にすれば、出張先からのログインのような、 AIが見落とした事情に人が気づけるようになります。
イ提案の大半が正しかったので、承認の手順をやめてAIエージェントに停止まで実行させる。
誤り。人の関与をなくす方向の見直しで、誤った停止はそのまま実行されるように なります。アカウントの停止は業務を止める処理なので、正解率が高くても、 誤りを止める最終承認を外す理由にはなりません。
ウ誤った停止を避けるため、AIエージェントの利用をやめ、全件を担当者が一から調べる。
誤り。誤りの原因は、AIを使ったことではなく承認が機能していなかったことです。 利用をやめると、担当者が大量のログを一から調べる負担に戻り、調べきれずに 不審なログインを見逃すおそれが出てきます。
エ確信度が高い提案には「確認不要」と表示させ、担当者が残りの提案に集中できるようにする。
誤り。確認を省いてよいという合図を出すと、AIの判断をそのまま信じて確かめない 傾向がかえって強まります。今回のような誤りが確信度の高い提案に含まれていても、 人が止める機会がなくなります。
理解を深めるために
判子を押すだけの承認は、承認ではない
部下が作った稟議書を、中身を読まずに判子だけ押す上司がいたら、その承認は 誤りを止める役に立っていません。AIエージェントの提案を人が承認する仕組みも同じで、 承認者が判断の中身を確かめられる状態になっていなければ、人の関与は形だけになります。
なぜ承認が形だけになるのか
AIの提案が続けて正しいと、人はAIの判断を過度に信じ、確かめずに通すようになります。 自動化バイアスと呼ばれる傾向です。最終承認を置いても、次の状態では機能しません。
- 承認画面に結論だけが出て、根拠が示されない
- 承認者が、何を見れば誤りに気づけるのか分からない
- 確かめなくてよいと受け取れる表示や運用がある
見直しの方向は、人を外すことでもAIをやめることでもなく、承認者が確かめられる 材料をそろえることです。判断に使ったログと、不審とみた理由が示されていれば、 「この社員は出張中だ」という、AIが知らない事情を人が補えます。
混同しやすいものとの違い
| 見直し方 | 人の関与 | 誤った停止を止められるか |
|---|---|---|
| 根拠を示させ、確かめてから承認 | 判断の中身を確かめる | 止められる |
| 承認をやめて自動で停止 | なくなる | 止められない |
| AIをやめて全件を人が調べる | 人がすべて担う | 止められるが、見逃しが増えやすい |
| 確信度の高い提案は「確認不要」と表示 | 形だけになる | 止められない |
試験では、最終承認を「置いたかどうか」ではなく、「承認者が確かめられるようになっているか」を見ます。 人の関与を実際に働かせる見直しを選んでください。