AIBR プレミアム
拓海先生、最近うちのスタッフに「カテゴリ変数の扱いが重要だ」と言われまして、会議で恥をかかないように少し教えていただけますか。どう違うエンコーディングがあって、何を選べばいいのかが分かりません。
素晴らしい着眼点ですね！大丈夫、一緒に整理すれば必ずわかりますよ。まず「カテゴリ変数」というのは社員の部署や製品の色のようなラベル情報で、数式のままではモデルが扱えないため数に変える処理が必要なんです。今日は代表的な手法と、論文が何を示したかを要点3つでお伝えしますよ。
なるほど。現場でよく聞く「ワンホット」と「ラベル」くらいは名前だけ知ってますが、どちらが良いのか聞かれると答えられません。特に現場データはユニーク値が多いこともあるんですが、その場合はどうしたらよいのでしょうか。
素晴らしい切り口です！結論だけ先に言うと、万能な方法はないのですが、論文は実験的に「タスクや特徴の性質で有利不利が決まる」と示しています。ここで重要なのは、（1）特徴のユニーク数（cardinality：カテゴリの数）、（2）その特徴が目標にとってどれくらい重要か、（3）モデルの種類、の3点ですよ。
なるほど、モデルの種類まで関係するのですね。それを踏まえて、具体的にどのような実験で確認したのですか。うちのデータで真似できるものでしょうか。
素晴らしい着眼点ですね！その論文はOpenMLという大規模なベンチマークリポジトリから多様な分類タスクを集め、統計的な手法でエンコーディングの効果を評価しています。単一データセットだけでの結論ではなく、タスクごとの差をランダム効果として扱う線形混合効果モデル（linear mixed-effects model）を使って比較しているのです。
それは信頼できそうですね。しかし実務だと計算資源や学習時間も気になります。ワンホットは列が増えるとメモリや時間が増えますよね。これって要するにモデルの学習コストと精度の折り合いということですか？
その通りです、素晴らしい本質の突き方ですよ。ワンホット（one-hot encoding、略称OHE、ワンホットエンコーディング）は扱いやすい一方で次元が増えて学習コストが上がることが問題です。対照的にターゲットベースのエンコーディング（target-based encoding、目標依存エンコーディング）は次元を増やさずに目標との関係性を取り込める利点がありますが、過学習のリスクやデータ分布の偏りに弱い点があるのです。要点は、1) コスト、2) 情報量、3) 過学習リスクの3つで判断することですよ。
なるほど。で、結局どんな場面ならワンホットを選べばよいのか、あるいはターゲットベースを選ぶべきか、経営判断としての基準を教えてください。現場と経営で判断基準を揃えたいのです。
素晴らしい着眼点ですね！経営判断基準としては、まず観測数とカテゴリの比率を確認してください。観測数に対してカテゴリ数が小さければワンホットで問題なく、特に線形モデルや解釈可能性が必要な場面では有利です。次に、カテゴリが目標に強く結びつく場合はターゲットベースを検討すると良い。しかし、外部データや将来の変更で分布が変わるリスクがあるなら慎重に検証が必要です。最後に、実装負荷とインフラ（メモリや学習時間）も踏まえて選択してください、の3点です。
分かりました。うちの工場データは製品IDが数千あるのでワンホットだと厳しいように思います。では、試験的にどのような手順で検証すれば費用対効果を確かめられますか。
素晴らしい現実的な問いです！実務での検証は小さく速く回すことが鍵です。まずは代表的なサンプルでベースラインを取り、ワンホット、ラベル（label/ordinal encoding）とターゲットベースの複数を同じモデルで比較します。次に学習時間とメモリ、性能（精度やF1など）を同時に計測して、投資対効果が合うかを判断します。これを自動化して運用に組み込めば、段階的に導入できますよ。
わかりました。最後に一つだけ、社内の非技術者にも説明できる短いまとめをいただけますか。会議の冒頭でこれを言えれば安心です。
素晴らしいご要望ですね！短く言うなら、1) カテゴリ変数は数に変換する必要がある、2) ワンホットは単純で解釈しやすいが次元が増える、3) ターゲットベースは次元を増やさず有力だがデータの偏りに注意、です。大丈夫、一緒にやれば必ずできますよ。
ありがとうございます。では一度、サンプルで試してみて、結果を持って報告します。要するにカテゴリの数とデータ量、目的に応じてワンホットかターゲットベースを選び、まずは小さく試す、ということですね。私の言葉で言うとそういう理解でよろしいですか。
