金融機関が、AIを使った融資審査の運用を点検することになった。人間中心のAI社会原則が 掲げる「公平性，説明責任及び透明性の原則」に照らして確認すべき事項はどれか。
正解：エ
ア審査に使う顧客の情報を、本人が同意した範囲を超えて利用していないかを確かめる
誤り。これはプライバシー確保の原則に関わる事項です。個人の情報が本人の 意に反して使われないことを求める考え方で、AIの判断が偏っていないかや 理由を説明できるかとは別の観点です。守る対象が情報か、判断の在り方かが違います。
イ外部からの攻撃を受けてもAIが誤った出力を返さないよう、対策を確かめる
誤り。これはセキュリティ確保の原則に関わる事項です。AIが攻撃や想定外の 入力で不安定にならないことを求めるもので、正常に動いている状態で判断が 公平かどうかを問う観点とは目的が異なります。
ウ社員がAIの得意不得意を理解して使えるよう、研修の機会があるかを確かめる
誤り。これは教育・リテラシーの原則に関わる事項です。AIを使う人の側が 正しい知識を持つことを求めるもので、大切な取組ですが、AIが下した判断の 公平さや説明のしやすさを直接問うものではありません。
エ判定で不利な扱いが生じていないかを確かめ、その理由を本人に説明できるようにする
正解。人の背景によって不当な差別を受けないこと（公平性）、結果の理由を 示せること（説明責任）、仕組みが検証できる状態にあること（透明性）の 三つをまとめて求めるのが、この原則です。
「なぜ断られたのか」に答えられるか
AIに融資の可否を判定させたとき、申込者が知りたいのは結果よりも理由です。 「AIが決めたことなので分かりません」としか言えない状態は、 この原則が避けようとしている状態そのものです。
公平性，説明責任及び透明性の原則は、名前のとおり三つの要素を束ねています。
- 公平性：人種、性別、国籍、年齢などの背景を理由に、不当な差別を受けない
- 説明責任：判断の結果について、責任をもって理由を示せる
- 透明性：入力と出力を検証でき、判断の根拠が追える状態にしておく
なぜ三つが一組なのか
公平に扱われているかどうかは、外から確かめられなければ分かりません。 だから透明性がなければ公平性は保証できず、説明できなければ責任も果たせません。 学習データに過去の偏った判断が含まれていれば、AIはその偏りをそのまま学びます。 運用を始めた後も、結果に偏りが出ていないかを点検し続けることが求められます。
ほかの原則との守備範囲の違い
| 原則 | 守ろうとしているもの |
|---|---|
| 公平性，説明責任及び透明性の原則 | 判断が偏らず、理由を示せること |
| プライバシー確保の原則 | 個人に関する情報が適正に扱われること |
| セキュリティ確保の原則 | 攻撃や誤作動に対する安全性 |
| 教育・リテラシーの原則 | 使う人がAIを正しく理解できること |
試験では、場面が「情報の扱い」「安全性」「人の理解」「判断の中身」の どれを問題にしているかで、対応する原則を選び分けられます。