問題 18★★☆

融資の審査にAIを導入する前に、情報漏えいや改ざんへの備えは評価を終えた。さらに、 特定の属性の申込者に不利な判定をしないか、判定の理由を申込者に説明できるかを導入前に評価したい。 この評価の取組として、最も適切なものはどれか。

正解:ア

各選択肢の解説

  1. アAI倫理アセスメント

    正解。AIが人や社会に与える影響を、公平性や説明できるかといった倫理の観点から導入前に評価する取組です。 情報資産の安全を見る評価では拾えない、判定を受ける人への影響を扱います。

  2. イAI利用ポリシー

    誤り。これは組織がAIをどう使うかを定めたルールの文書です。評価の結果を踏まえて定めることはありますが、 個別のAIが不公平な判定をしないかを確かめる作業そのものではありません。

  3. ウ情報セキュリティリスクアセスメント

    誤り。情報資産の機密性・完全性・可用性に対するリスクを評価する取組で、問題文の漏えいや改ざんへの備えがこれです。 申込者への公平さや説明できるかは、情報資産の安全とは別の観点です。

  4. エ脆弱性診断

    誤り。システムに攻撃者が悪用できる弱点がないかを調べる検査です。AIの判定が特定の属性に偏るのは 攻撃で起こる問題ではなく、学習データや設計に由来するので、この検査では見つけられません。

理解を深めるために

「AIが守られているか」と「AIが人を傷つけないか」は別の評価

新しい薬を出すとき、工場から盗まれない対策と、飲んだ人に副作用が出ないかの試験は別に行います。 AIも同じで、情報漏えいや改ざんへの備えを評価しただけでは、判定を受ける人への影響は分かりません。 公平性や説明できるかといった倫理の観点で、AIが人や社会に与える影響を評価するのがAI倫理アセスメントです。

なぜ別に評価するのか

融資の審査は、申込者の生活に直接影響する判定です。安全に動いていても、次のような問題は起こりえます。

  • 過去のデータに偏りがあり、特定の属性の申込者が不利に判定される
  • 判定の理由を示せず、申込者が説明を受けられない
  • 誤った判定に申込者が異議を述べる手段がない

これらは攻撃や事故で起こるものではないので、情報資産のリスクを見る評価や脆弱性の検査では拾えません。 導入前に倫理の観点で影響を洗い出し、対策を決めておく必要があります。

混同しやすいものとの違い

取組 何を見るか
AI倫理アセスメント 公平性・説明できるかなど、判定を受ける人や社会への影響
AI利用ポリシー 組織としてAIをどう使うかのルール(評価そのものではない)
情報セキュリティリスクアセスメント 情報資産の機密性・完全性・可用性へのリスク
脆弱性診断 攻撃者が悪用できるシステムの弱点

試験では、評価したい観点が「情報資産の安全」か「判定を受ける人への影響」かを読み分けると選べます。

前の問題へ次の問題へ