データ分析・データ利活用データ分析・データ利活用★☆☆

通販サイトと店舗のシステムに分かれている顧客データを集めたところ、同じ取引先が 「株式会社ABC」「(株)ABC」のように違う表記で登録されていた。 これらを同一の顧客と判断して一つにまとめる作業はどれか。

正解:

  1. 欠損値の処理

    誤り。欠損値の処理は、値が入っていない項目を除いたり、平均値などで補ったり する作業です。同じくデータを整える作業ですが、扱う対象は空欄であって、 複数のレコードが同じ相手を指しているかどうかは判断しません。

  2. テキストマイニング

    誤り。テキストマイニングは、問合せ内容や口コミといった文章を単語に分け、 出現の傾向や語の結び付きを取り出す分析です。文字を扱う点は似ていますが、 目的は文章からの傾向の発見であり、レコードを統合することではありません。

  3. 名寄せ

    正解。名寄せは、表記のゆれや入力の違いを吸収して、同じ人物や企業のデータを 一つにまとめる作業です。これをしないと同じ顧客が別人として数えられ、 顧客数も一人あたりの購買金額も実態からずれてしまいます。

  4. アノテーション

    誤り。アノテーションは、AIの学習に使うデータへ正解となるラベルや意味づけを 付ける作業です。画像に「猫」と印を付けるような下準備であり、 既存データの重複を見つけて解消する作業ではありません。

別人として数えられている同じ人

年賀状の宛先リストを思い浮かべてください。同じ相手が 「山田太郎」「山田 太郎」「ヤマダタロウ」と3件登録されていると、 年賀状は3通届きます。これを1件にそろえるのが名寄せです。

企業のデータでも同じことが起きます。通販サイトの会員、店舗のポイントカード、 問合せ履歴がそれぞれ別に作られていると、同じ顧客が3人分に見えます。 このまま集計すると顧客数は水増しされ、一人あたりの購買金額は小さく出ます。

何を手がかりにまとめるか

  • 表記のゆれをそろえる(全角と半角、「株式会社」と「(株)」、空白の有無)
  • 共通のキーで突き合わせる(電話番号、メールアドレス、法人番号)
  • 住所や氏名が近いものは、機械で候補を出して人が確かめる

同姓同名を誤って一人にまとめると別人の履歴が混ざるので、 まとめすぎないことも同じくらい大事です。

データの加工に出てくる作業を並べる

作業 何をするか
名寄せ 表記のゆれを吸収し、同一の対象のデータを一つにまとめる
欠損値・外れ値の処理 空欄を補ったり、極端な値を除いたりして分析に耐える状態にする
テキストマイニング 文章を単語に分け、出現の傾向や語の結び付きを取り出す
アノテーション AIの学習データに、正解となるラベルや意味づけを付ける

「同じ相手が別々に登録されている」という状況が出てきたら名寄せです。 分析の前段でデータをそろえる作業なのか、分析そのものなのかで見分けられます。

次の問題へ