AIBR プレミアム
拓海さん、最近うちの現場でも「データに偏りがあるからモデルが変な挙動をする」と言われましてね。実際どのくらい深刻な問題なんでしょうか。
素晴らしい着眼点ですね！それは「フィードバックループによる学習データの偏り」が原因で、放置すると継続的に性能が低下する可能性がありますよ。大丈夫、一緒に整理していきましょう。
具体的にはどういう仕組みで偏りが生じるのですか。現場では「上に表示された広告しかクリックされない」とは聞きますが、それと関係ありますか。
仰る通りです。ここで扱う論文は広告表示の位置が原因となる偏り、いわゆる「ポジションバイアス（position bias）」に着目しています。広告が上にあるだけでクリックが増え、そのデータで学ぶと上位表示をさらに強化してしまう負の循環が起きるんです。
要するに、上の方に載せた広告が得をして、下の方が不利になる。これをそのまま学習すると将来的に正しい評価ができなくなる、ということですか。
その通りですよ。重要な点を三つにまとめると、1) 観測データ自体が既に偏っている、2) その偏りを普通に学ぶと将来の推定も偏る、3) 偏りを取り除くにはデータの取り方を変えるか、モデル側で偏りを分離する必要がある、です。現実的には後者のアプローチが導入しやすいんです。
そのモデル側での対策というのは、難しくてお金も時間がかかるんじゃないですか。導入の投資対効果が気になります。
懸念はもっともです。ただこの論文が示す方法は、オンラインでわざわざ探索用の表示を大量に出して実験する必要がなく、既存のデータ循環の任意の時点で使える点が優位です。すなわち時間や収益の機会損失を抑えつつ適用できる可能性がありますよ。
これって要するに、わざわざ実験を回さなくても既存データから偏りを分けて取り除けるということですか？
その理解で合っていますよ。論文の手法はAdversarial Neural Network（ANN）＝敵対的ニューラルネットワークの枠組みを使って、偏りに関する情報を予測するネットワークと、偏りに依存しない表現を作る本体ネットワークを同時に学習します。結果として偏りを説明する成分を分離しつつ、実際の予測も維持できるのです。
導入するとき現場の作業はどれくらい増えますか。データの取り直しをしないという点は魅力的ですが、実装工数が大きければ現実的ではありません。
実際の導入は既存のモデル構造に追加の枝をつけるイメージですから、完全な作り直しは不要です。重要なのは偏りを示す特徴（この論文では表示位置など）を明示して学習に入力することと、損失関数に二乗共分散（squared covariance loss）を組み込むことです。最初は工数がかかりますが、中長期的にはデータ品質を保てるため投資効率は良くなりますよ。
なるほど。まとめると、偏りを別成分として扱って分離することで、今あるデータを活かしつつ正しい評価に近づけるということですね。よし、説明ありがとう、私の言葉で整理するとそういうことだと思います。
