部分入力への注意力を測定し改善するカウンターファクチュアル(Measuring and Improving Attentiveness to Partial Inputs with Counterfactuals)

田中専務

拓海先生、最近部下から「データに偏りがあるとモデルが変な判断をする」と言われまして、正直ピンと来ておりません。要するに現場でまず何を気にしたら良いのでしょうか。

AIメンター拓海

素晴らしい着眼点ですね!大丈夫、順を追って説明しますよ。まずは「データのどの部分が意思決定に効いているか」を測ることが重要です。モデルが一部の入力だけを見て判断してしまうと、本質を見失う危険がありますよ。

田中専務

それは、例えばどんなケースですか。現場で起きている具体例を挙げてもらえますか。

AIメンター拓海

例えば文書を分けて片方だけで予測が出来てしまう場合です。言い換えれば、本来は両方の情報を組み合わせるべきタスクで、片方の情報に偶然の相関が生じているとモデルがそちらに頼ることがあります。それが現場の

AIBRプレミアム

関連する記事

AI Business Reviewをもっと見る

今すぐ購読し、続きを読んで、すべてのアーカイブにアクセスしましょう。

続きを読む