拓海先生、最近部下が「説明できるAI」を入れろと言うのですが、何を基準に選べば良いのか見当がつきません。特にレコードの突合せ、いわゆるエンティティマッチングの説明という話が出てきて困っています。これって要するに現場での判断をAIがどう説明するかということでしょうか。
素晴らしい着眼点ですね！大丈夫、簡単に整理できますよ。要するにエンティティマッチングの説明は、二つの記録が同じか違うかを示すAIの判断理由を人が理解できる形で示すことです。今回はLEMONという方法論がその難しさにどう対処するかを分かりやすくお話ししますね。
具体的にはどんな課題があるのですか。部下はLIMEとかSHAPという名前を出していましたが、何が違うのかよく分かりません。
まず用語を一つ。LIMEはLocal Interpretable Model-agnostic Explanations（ローカル解釈可能モデル非依存説明）で、ある判断の周辺をちょっと変えて結果がどう変わるかを見る手法です。ですがエンティティマッチングでは二つのレコードの相互作用が強く、LIMEのままでは誤解を招くことがあるのです。
なるほど。相互作用というのは例えば商品名と説明文がセットで意味を持つようなケースですか。片方だけ見せられても判断できない、と。
その通りです。それでLEMONは三つの工夫で対応します。第一にデュアル説明で、二つのレコードそれぞれの寄与を別々に示し、相互作用の誤解を避けます。第二にアトリビューション・ポテンシャルという、どうすれば一致したと説明できるかという“可能性”を提示します。第三に説明の粒度を自動で調整し、敏感な部分は細かく、鈍感な部分は粗く示します。
これって要するに、片方のレコードだけで誤解されないように、それぞれの寄与を分けて見せ、さらに”本来ならこういう条件で一致になるよ”と示す機能がある、ということですか。
その理解で正しいですよ。素晴らしい着眼点ですね！導入の観点では要点を三つにまとめます。第一に説明の信頼性、第二に非一致（不一致）をどう説明するか、第三に実運用での計算コストです。これらを見極めれば導入判断ができますよ。
計算コストですか。実務では全件で説明を出す余裕はありません。どこに投資すべきか、どの現場で使うと効果的かを教えてください。
大丈夫、一緒にやれば必ずできますよ。まずは重要な判断点に絞って説明を出すのが現実的です。影響度の高いペアや、ヒトの判断が入る工程に限定して説明を生成し、並列処理でコストを下げます。最初はサンプルで効果を確かめるのが良いでしょう。
なるほど、まずはクリティカルパスだけ対象にして、効果が出れば範囲を広げる、と。現場の担当者への説明もできそうです。ありがとうございました、拓海先生。
本当に素晴らしい質問でした。最後にもう一度だけ整理しますね。LEMONは二つの記録を別々に説明し、どうすれば一致するかの潜在的要因を示し、説明の細かさを自動で調整する手法です。大丈夫、これで会議でも的確に説明できますよ。
私の理解では、LEMONは「二つのデータがどう影響し合っているかを分けて見せ、さらに一致のために必要な変更点を示す」方法であり、まずは影響の大きいケースで試して費用対効果を確かめるという運用が現実的だと考えます。これで社内説明ができます。
