問題 11★★☆

ある判定モデルに過学習が起きていることが分かった。 この状態を改善する取組みとして最も適切なものはどれか。

正解:エ

各選択肢の解説

  1. ア学習データに対する誤りがなくなるまで、同じデータで学習の回数をさらに重ねる。

    誤り。同じデータへの当てはめをさらに強めることになり、過学習は進みます。 学習データでの成績は上がるので改善したように見えますが、 過学習で落ちているのは未知のデータでの成績です。

  2. イモデルをより複雑にして、データの細かな違いまで表現できるようにする。

    誤り。これは未学習(学習不足)のときに取る対策で、向きが逆です。 モデルが単純すぎて傾向をとらえきれないなら複雑にしますが、過学習は 細かな癖まで覚え込んでいる状態なので、複雑にするとかえって悪化します。

  3. ウ学習データから判定を誤った事例を除き、当てやすい事例だけで学習し直す。

    誤り。学習データの成績は良くなりますが、データの幅が狭まるだけです。 本番には判定の難しい事例も含まれるため、それを知らないモデルは未知のデータに弱く、 学習データへの偏りを強める方向の取組みになります。

  4. エ学習データの量を増やし、偏りのない幅広い事例を含めて学習し直す。

    正解。事例の数と幅が増えると、一部のデータにだけある癖を覚えても当たらなくなり、 多くのデータに共通する傾向を学ぶ方向へ進みます。 過学習を抑える基本的な手立てです。

理解を深めるために

例題だけ解ける状態から抜け出すには

同じ問題集を何周もした人は、その問題集なら満点を取れます。 けれども初めて見る問題には弱いままです。直すには、 同じ問題集をさらに繰り返すのではなく、いろいろな問題に触れることが必要です。

機械学習の過学習も同じ構図です。学習データの細かな癖まで覚え込み、 未知のデータで精度が落ちています。

なぜデータの量と幅が効くのか

  • 事例が少ないと、その事例だけにある偶然の特徴でも「正解の決め手」に見えてしまう
  • 事例が多く幅広いと、偶然の特徴は他の事例で当たらなくなり、自然と使われなくなる
  • 残るのは多くのデータに共通する傾向で、これが未知のデータでも通用する

ほかにも、モデルを必要以上に複雑にしないことや、学習に使っていないデータでの 成績が伸びなくなった時点で学習を打ち切ることが、過学習を抑える手立てになります。

混同しやすいものとの違い

取組み 過学習への効果
学習データの量と幅を増やす 共通する傾向を学ぶ方向に働き、改善する
同じデータで学習を重ねる 当てはめが強まり、悪化する
モデルをより複雑にする 未学習への対策。過学習は悪化する
当てやすい事例だけで学習し直す データの幅が狭まり、偏りが強まる

選択肢の取組みが「学習データでの成績を上げる」のか「未知のデータでの成績を上げる」のかを 見分けるのがコツです。過学習で直したいのは後者です。

前の問題へ次の問題へ