問合せ対応の部署で生成AIを使う。返金手続の案内文は書式も言い回しも決まっており 毎回同じ文面にしたい。一方、キャンペーンの見出し案はできるだけ違う切り口を 多く出したい。出力のばらつきを調整する設定の使い方として、最も適切なものはどれか。
正解:イ
ア案内文はばらつきを大きくし、見出し案はばらつきを小さくする。
誤り。設定の向きが逆です。案内文のばらつきを大きくすると、毎回違う言い回しが 混ざって決められた書式から外れます。見出し案は小さくすると似た案ばかりが 並び、選ぶ楽しみがなくなります。用途と向きの対応を押さえます。
イ案内文はばらつきを小さくし、見出し案はばらつきを大きくする。
正解。文面が決まっている案内文は、毎回同じ答えに近づくよう振れを抑えます。 逆に案を数多く出したい見出しは、振れを大きくして表現の幅を広げます。 求めるものが安定か多様かで、設定の向きを決めます。
ウ事実の誤りを防ぐため、案内文も見出し案もばらつきを最小にする。
誤り。ばらつきを抑えると回答は安定しますが、内容が正しくなるわけでは ありません。誤った内容が毎回同じように出てくることもあります。安定度の 調整であって、正確さの保証ではないという点が混同されがちです。
エ出力の長さを抑えるため、案内文だけばらつきを小さくする。
誤り。この設定は表現の振れ幅を決めるもので、文字数を決めるものでは ありません。長さを揃えたいなら「200字程度で」と指示文に書きます。 調整するのがばらつきなのか、出力の形式なのかが違います。
同じことを聞いても、毎回同じ答えとは限らない
生成AIは、次に続く言葉を確からしさで選びながら文章を作ります。 確からしさが高いものだけを選べば、毎回ほぼ同じ答えになります。 少し外れたものも選ぶようにすれば、思いがけない表現が混ざります。 この振れ幅の大きさは設定で調整できます。これがランダム性の制御です。
サイコロを振る幅を、自分で決められると考えると分かりやすいでしょう。 幅を狭めれば安定した答えが、広げれば多様な答えが返ってきます。
どちらに振るかは用途で決まる
| 用途 | ばらつき | 理由 |
|---|---|---|
| 規程の説明、手続の案内 | 小さく | 文面が決まっており、毎回違うと困る |
| 議事録の要約、分類 | 小さく | 同じ入力から同じ結果が出てほしい |
| 広告の見出し、企画の案出し | 大きく | 似た案が並ぶより、幅のある案が欲しい |
注意したいのは、ばらつきを小さくしても内容が正しくなるわけではないことです。 安定して同じ誤りを返すこともあります。正しさを確かめる工程は別に要ります。
似た調整との違い
| 調整 | 何を変えるか |
|---|---|
| ランダム性の制御 | 出力の振れ幅。安定させるか、多様にするか |
| プロンプトエンジニアリング | 指示文の書き方。出力の内容や形式を整える |
| RAGによる知識連携 | 参照させる知識。答えられる範囲を広げる |
問題文が「毎回同じ答えにしたい」「たくさん案が欲しい」と言っていたら、 ばらつきの調整の話だと考えてよいでしょう。