AIBR プレミアム
拓海先生、最近部下に『説明可能性（Explainable AI）が大事だ』と言われましてね。うちは現場が数字に弱くて、AIの判断根拠が分からないと導入が進まないんですけど、論文にある『事例ベースの説明』って、要するに現場で納得できる説明になるんですか？
素晴らしい着眼点ですね！大丈夫、事例ベースの説明（Example-based explanations、EBE）は現場の納得に非常に直結するんですよ。簡単に言うと、AIが『なぜそう判断したか』を、似た過去の事例で示せる仕組みですから、現場が『ああ、あのケースに似ているからか』と理解できますよ。
でも、うちのAIは社員が取ったデータから複雑に学習しているはずで、単純に似た過去例を引っ張るだけで大丈夫なんでしょうか。精度が落ちたりしませんか。
素晴らしい視点ですね！ここがこの手法の肝で、深層ニューラルネットワーク（Deep Neural Networks、DNN）を使って『特徴の良い取り出し』を行い、その特徴空間でk近傍法（k-nearest neighbors、kNN）を使って似た訓練例を探すことで、元のDNNの精度を保ちつつ説明が得られるのです。要点は三つ、特徴抽出、類似検索、説明の重み付けです。
これって要するに、AI本体（DNN）が作った見方を借りて、『似た過去の実例』を見せることで、人間が納得できる説明をつくる、ということですか？
その通りです！素晴らしい着眼点ですね！もう少し具体的に言うと、DNNの内部のある層の出力を埋め込み（embedding）として利用し、その埋め込み空間で訓練データとの距離を計算して重みを作り、重み付き和で予測を再現します。結果として、説明は少数の具体的な訓練例に集中することが多く、現場で使いやすい説明になるのです。
なるほど。で、実務で気になるのは、『どの層の出力を使うか』で結果が変わると聞きましたが、それは現場の説明力にどう影響しますか。
いい質問ですね！要点は三つです。初期の層はエッジや色など低レベルの特徴を捉えるため視覚的に似た例を出しやすく、中間層は形状やパターンを、後半の層は抽象的なクラスの特徴を捉えるため、どの層を使うかで『似ている』の意味が変わります。つまり、現場が何をもって『似ている』と納得するかで最適な層が変わるのです。
現場は見た目重視の担当と、工程特性重視の担当で意見が割れることがあります。つまり、どの層を使うかは『誰に説明するか』で選ぶ必要があるということですね。
その通りです！素晴らしい理解です！そして実務上の設計ポイントは三つ、目的（誰を納得させたいか）、説明の簡潔さ（少数の事例で説明できるか）、性能維持（元のDNNの精度を保てるか）を同時に考えることです。設計段階でこれらを議論すれば導入はずっとスムーズになりますよ。
分かりました。うちでもまずは製造ラインの検査で、数件の過去不良事例を見せながら説明する形で試してみます。最後に私が自分の言葉でまとめますと、これは『AIの内部表現を使って、似た過去事例を示すことで、人間が納得する説明を作る手法』ということでよろしいですか。
そのまとめで完璧ですよ！大丈夫、一緒にやれば必ずできますよ。現場での評価を得ながら、層の選定や事例数の調整を進めましょう。
