生成AIに市場動向を尋ねたところ、具体的な数値や傾向を含む文章が返ってきたが、 その内容がどの資料に基づくのかは示されていなかった。この文章を社外向けの提案 資料に使うときの対応として、最も適切なものはどれか。
正解：エ
ア同じ質問を何度か入力し、毎回同じ内容が返ることを確かめてから使う。
誤り。これは出力の再現性を確かめる行為です。安定して同じ答えが返ることと、 その内容に裏づけがあることは別で、生成AIは同じ誤りを繰り返し出すこともあり ます。確かめる相手をAIではなく外部の資料にしなければ意味がありません。
イ生成AIに「この内容は正しいか」と尋ね、正しいと回答されたら使う。
誤り。出力の正しさを、その出力を作った当人に尋ねているだけです。生成AIは 根拠を持たないまま肯定的な返答を作ることがあり、検証にはなりません。 根拠の確認は、必ずAIの外にある資料で行います。
ウ出力の言い回しを社内の文書規程に合わせ、表記を統一してから使う。
誤り。これは体裁を整える作業です。読みやすさは上がりますが、書かれている 数値や傾向が事実かどうかは何も変わりません。形式のチェックと内容の裏づけの 確認は、別々に行う必要があります。
エ記述の裏づけを公的機関の公表資料などの一次情報で確認してから使う。
正解。出典が示されない出力は、内容が正しいかどうか以前に、正しさを確かめる 手段がありません。元の資料に当たって確認できた記述だけを使い、資料名を 明記すれば、読み手も後から検証できます。
出どころが分からない話は、引用できない
生成AIの出力は、読みやすく整った文章として返ってきます。しかし、そこに書かれた 数値がどの調査に基づくのかは、多くの場合示されません。これが根拠・出典不明の 出力情報というリスクです。厄介なのは、内容がたまたま正しくても、正しいと 確かめる手段がないこと自体が問題になる点です。
社外に出す資料では何が起きるか
- 出典を書けないため、読み手が内容を検証できない
- 数値の誤りが後から見つかったとき、責任の所在が自社に残る
- 元の文章に著作権上の問題があっても、気づかないまま引用してしまう
対応の原則は、AIの出力を「答え」ではなく「下書き」として扱うことです。 統計や制度に関する記述は、省庁や業界団体が公表している一次情報に当たって確認し、 確認できた記述だけを、出典を明記して使います。
混同しやすいものとの違い
| リスク | 何が問題か |
|---|---|
| 根拠・出典不明の出力情報 | 裏づけの資料が示されず、正しさを検証できない |
| ハルシネーション | 存在しない事柄をもっともらしく作り出す |
| 再現性・一貫性の欠如 | 同じ問いへの答えが毎回変わる |
| 古い出力情報 | 学習時点より後の変更が反映されていない |
「内容が事実と違う」ならハルシネーション、「事実かもしれないが確かめられない」なら 根拠・出典不明の出力情報です。対策はどちらも一次情報での確認に行き着きます。