通信販売会社が、問合せへの回答から返品の受付、代金の返金までをAIエージェントに 任せることにした。どこまで自動で進めさせるかを決めるときの考え方として、 最も適切なものはどれか。
正解：エ
ア効果を早く出すため、処理の内容にかかわらずすべて自動で完了させ、 誤りが分かった分だけ後から人が対処する。
誤り。速さは得られますが、返金のように後戻りしにくい処理まで含めると、 一件の誤りが金銭や信用の損失として残ります。後から直せる処理と 直せない処理を同じ扱いにしている点が適切ではありません。
イ問合せへの回答は担当者が確認してから送り、返金の確定はAIエージェントに 任せきる。
誤り。線を引く向きが逆です。回答の文面は誤っても送り直せますが、 返金はいったん実行すると取り消しが簡単ではありません。 止めるべきなのは、やり直しがきかないほうの処理です。
ウ現場の状況に合わせられるよう、確認を求めるかどうかの判断自体を AIエージェントに任せ、人は基準を定めない。
誤り。判断の基準まで委ねると、どこまで自動で進むのかを人が把握できず、 同じ場面でも扱いが変わります。どこで人に渡すかの線は、責任を負う側の 組織があらかじめ決めておくべきものです。
エ返金の確定のように、いったん実行すると取り消しが難しい処理は、 担当者が内容を確認してから実行させる。
正解。取り返しがつくかどうかと、影響の大きさで線を引く考え方です。 調べ物や下書きの作成は任せ、後戻りできない操作の直前に人の確認を 挟むことで、速さと安全の両方を保てます。
全部任せるか、全部見るか、ではない
AIエージェントは目標を伝えれば自分で段取りを決めて進みます。便利な反面、 任せる範囲が広いほど、間違えたときの後始末も大きくなります。 そこで決めるのが自律性と人間の関与の線引きです。
判断の軸は二つあります。
- 取り消せるかどうか。 下書きの作成や社内データの検索はやり直せますが、 返金の実行、発注の確定、社外への送信は取り消しが難しい
- 影響の大きさ。 金額が大きい、対象の人数が多い、社外に出る、という処理は 誤りの波及が広い
取り消せて影響も小さい作業は任せ、後戻りできない一手の直前で人に渡す。 これが現実的な落としどころです。
任せ方は段階で考える
| 任せ方 | 人の関わり | 向く処理 |
|---|---|---|
| 提案まで | 人が内容を確認して実行する | 返金、発注、社外への送信 |
| 実行して報告 | 人は結果を後から確認する | 在庫の照会、記録の登録 |
| 処理ごとに使い分ける | 後戻りできない処理だけ確認を挟む | 上の二つを組み合わせた運用 |
「全件確認」と「全件自動」はどちらも極端で、前者は自動化の効果を打ち消し、 後者は損失を招きます。処理の性質ごとに段階を割り当てるのが基本の考え方だと 覚えておくと、場面を示して適切な運用を選ばせる問題に対応できます。