社員が、社外の事業者が提供する生成AIサービスに、顧客の氏名と購入履歴が並んだ 一覧をそのまま貼り付けて要約させた。この行為が高めてしまうAI利用上のリスクと して、最も適切なものはどれか。
正解：ウ
ア出力情報の再現性・一貫性の欠如
誤り。同じ質問をしても回答の内容が毎回変わってしまうリスクです。要約でも 起こりうる現象ですが、それは出力側のばらつきの話で、顧客情報を入力したこと によって新たに生じるものではありません。
イ根拠・出典不明の出力情報
誤り。出力の内容がどの資料に基づくのかを確かめられないリスクです。今回は 自社の顧客一覧という出どころの明らかな資料を渡しているので、根拠が不明に なる場面ではありません。問題は渡したこと自体にあります。
ウセキュリティ・プライバシーへの懸念
正解。入力した内容が事業者側のサーバに保存され、モデルの学習や品質改善に 使われることがあります。本人の同意なく個人データを社外に渡したことになり、 漏えいや目的外利用につながります。
エ学習データに由来する差別的表現
誤り。学習データに含まれる社会的な偏りが出力に表れ、特定の属性の人を不当に 扱う表現が生じるリスクです。同じくデータに関わる問題ですが、こちらは出力の 公平性であり、入力した情報がどこへ行くかとは論点が違います。
入力欄の向こう側は社外
生成AIサービスの多くは、インターネット越しに事業者のサーバで動いています。 入力した文章はいったんそのサーバに届き、サービスによっては保存され、モデルの 学習や品質改善に使われます。つまり、入力欄に貼り付けた時点で、その情報は社外に 出たことになります。これがセキュリティ・プライバシーへの懸念です。
何が問題になるか
- 顧客から預かった個人データを、本人の同意なく第三者に渡したことになる
- 未公開の設計情報や見積条件を入力すれば、営業秘密の管理が崩れる
- 学習に使われた場合、他の利用者への出力に断片が現れる可能性が残る
対策は、入力してよい情報の範囲を社内規程で決めること、入力内容を学習に使わせない 設定（オプトアウト）や法人向けの契約を用いること、そして個人情報や機密情報は 仮名化・削除してから渡すことです。
混同しやすいものとの違い
| リスク | どこで起きるか |
|---|---|
| セキュリティ・プライバシーへの懸念 | 入力側。渡した情報が社外に残る |
| 根拠・出典不明の出力情報 | 出力側。裏づけを確かめられない |
| 再現性・一貫性の欠如 | 出力側。答えが毎回変わる |
| 差別的表現 | 出力側。学習データの偏りが表れる |
AIのリスクは「入力したものが漏れる話」と「出てきたものが信用できない話」に 分けて覚えると、場面から選びやすくなります。