問題 2★★★

人事部門が応募書類の一次選考にAIを使うことになり、情報セキュリティの担当者として 社内のAIガバナンスの仕組みづくりに加わった。AIガバナンスの考え方に沿う進め方として 最も適切なものはどれか。

正解:ア

各選択肢の解説

  1. ア責任者を定め、影響の大きさに応じた対策を決めたうえで、運用中も結果を監視して見直す。

    正解。AIガバナンスは、AIのリスクを受け入れられる水準に管理しながら便益を生かすための 体制と運用です。誰が責任を持つかを決め、評価・対策・監視・見直しを続けて回します。

  2. イ導入前の審査で十分にリスクを評価して承認し、運用開始後は承認内容を変えずに使い続ける。

    誤り。導入前の審査は必要ですが、それで終わる一度きりの承認になっています。 応募者の層や入力データ、AIそのものの更新で前提は変わるため、 運用中に結果を監視して見直さないと、偏った判定が続いても気づけません。

  3. ウ不公平な判定が起こる可能性を完全になくせると確認できるまで、AIの導入を見送る。

    誤り。リスクをゼロにすることを導入の条件にしています。AIに限らず リスクを完全になくすことはできず、AIガバナンスはリスクを受け入れられる水準に 抑えつつ便益を生かす考え方です。ゼロを求めると、管理ではなく利用の放棄になります。

  4. エAIの開発元が国のガイドラインに沿っていることを確かめ、自社では独自の管理を設けない。

    誤り。総務省・経済産業省のAI事業者ガイドラインは、開発者・提供者・利用者の それぞれに取り組みを求めています。どの業務にどう使い、判定をどう扱うかは 利用する自社にしか決められないので、開発元の対応では代わりになりません。

理解を深めるために

AIガバナンスは「一度決めて終わり」ではなく「回し続ける仕組み」

新しい機械を工場に入れるとき、導入時の安全点検だけで済ませる会社はありません。 担当者を決め、危険の大きさに応じて柵や手順を決め、使いながら点検を続けます。 AIも同じで、責任者を置き、リスクに見合った対策をとり、運用中も監視して見直す という流れを組織として回すのがAIガバナンスです。

なぜそう進めるのか

AIガバナンスのねらいは、AIのリスクを関係者が受け入れられる水準に管理しつつ、 AIがもたらす便益を生かすことです。そのために次を組み合わせます。

  • 責任の所在を決める(誰が導入を判断し、問題が起きたら誰が止めるか)
  • 影響の大きさに応じて対策の強さを変える。応募者の合否に関わる選考は影響が大きく、 人による最終判断や判定の偏りの確認など、手厚い対策が要る
  • 運用中も判定結果を監視し、環境やデータの変化に応じて対策を見直す

総務省・経済産業省のAI事業者ガイドラインも、開発者・提供者だけでなく、 AIを業務に使う利用者の側にも取り組みを求めています。

混同しやすいものとの違い

進め方 評価
責任者・リスクに応じた対策・運用中の監視と見直し AIガバナンスの考え方に沿う
導入前の一度きりの承認 運用中の変化に気づけない
リスクゼロまで導入しない 管理ではなく利用の放棄になる
開発元任せで自社は管理しない 使い方の責任は利用する自社に残る

試験では、「一度で終わる」「ゼロにする」「他社に任せる」のどれかが含まれていないかを見ると、 継続して回す仕組みであるAIガバナンスの選択肢を選べます。

前の問題へ次の問題へ