正解：ア
各選択肢の解説
ア人を傷つけたり犯罪に使われたりする悪意ある情報が生み出されること。
正解。生成AIは文章を作るのが得意なので、使う側に害意があれば詐欺の文面や 危険な手順も手軽に作れてしまいます。こうした依頼を断る制限は、悪意ある情報の 生成と悪用を抑えるための仕組みです。
イ事実と異なる内容を、もっともらしい文章で作り出してしまうこと。
誤り。これはハルシネーションの説明です。こちらは利用者に害意がなくても起きる AI側の誤りで、依頼を断っても防げません。問題文の制限は、内容が正確かどうかでは なく、依頼の目的が加害にあることを理由に断っています。
ウ入力した機密情報や個人情報が、サービス側に渡って漏れること。
誤り。これはセキュリティ・プライバシーへの懸念のうち、入力側のリスクです。 詐欺メールという語からセキュリティを連想しやすいのですが、問題文で危ないのは AIが出力する内容のほうで、入力した情報の行き先ではありません。
エ学習した時点より後の変化が反映されない内容を答えてしまうこと。
誤り。これは古い出力情報の説明です。時点の古さは利用者の意図とは関係なく 起こり、依頼を断る制限では防げません。答えが新しいか古いかではなく、 その答えが人を害するかどうかが問題文の論点です。
理解を深めるために
道具が優秀なほど、悪用されたときの害も大きい
切れ味のよい包丁は料理に役立ちますが、人を傷つけることにも使えます。生成AIも 同じで、自然な文章や手順書を一瞬で作れる力は、詐欺の文面や危険物の作り方にも そのまま使えてしまいます。人を傷つけたり犯罪に使われたりする情報をAIが生み出し、 それが悪用されることが、悪意ある情報のリスクです。
なぜサービス側で断るのか
- 以前なら知識や手間が必要だった加害の準備が、誰でも短時間でできるようになる
- 取引先になりすました自然な日本語のメールは、受け取った側が見抜きにくい
- 一度作られた情報は、作った本人以外にも広がっていく
そこで多くのサービスは、加害につながる依頼を受け付けない制限を設け、利用規約でも 悪用を禁じています。ただし言い回しを変えて制限をすり抜けようとする試みもあり、 制限があるから安全とは言い切れません。 受け取る側も、送金先の変更などは 別の経路で確かめる習慣が要ります。
混同しやすいものとの違い
| リスク | 原因はどこにあるか |
|---|---|
| 悪意ある情報 | 使う側の害意。AIが加害に使える内容を作る |
| ハルシネーション | AI側の誤り。存在しない事柄を作り出す |
| セキュリティ・プライバシーへの懸念 | 入力した情報が外部に渡って漏れる |
| 古い出力情報 | 学習時点より後の変化が反映されない |
見分けの軸は「害意があるか」と「入力側か出力側か」です。利用者の害意がなくても 起きるのがハルシネーションと古い出力情報、害意のある依頼から生まれるのが 悪意ある情報、と押さえておきます。