予測のための意味的説明

（Semantic Explanations of Predictions）

田中専務

拓海先生、部下がこの論文を勧めてきたのですが、正直タイトルだけではピンと来ません。要点を簡単に教えていただけますか。

AIメンター拓海

素晴らしい着眼点ですね！端的に言うと、この論文は「機械学習の結果を、人間が理解しやすい言葉に置き換えて説明する方法」を示しています。データの例を選んで、それを概念（セマンティクス）に変換して説明を作るんですよ。

田中専務

データの例を言葉にするというと、要するに「サンプルを見せて『なぜそう判定したか』を説明する」ということですか。

AIメンター拓海

その通りです。ただし重要なのは3点です。1つ目は代表的なデータ点（representative examples）を選ぶこと、2つ目は対照的なデータ点（contrastive examples）も示して境界を明らかにすること、3つ目はそれらをドメイン知識に基づいた概念（ontology（Ontology, O, オントロジー））に変換することです。大丈夫、一緒にやれば必ずできますよ。

田中専務

専門用語が多くて恐縮ですが、オントロジーというのは現場で言うと何に当たりますか。工場の工程や製品の分類表のようなものでしょうか。

AIメンター拓海

素晴らしい着眼点ですね！まさにその通りです。オントロジーは「概念の階層や関係」を示すもので、工場で言えば部品分類表や工程フロー、特性の因果関係マップのようなものです。これを使って、単なる数値やピクセルではなく「意味のある言葉」に変換できますよ。

田中専務

で、ここで聞きたいのは実務上の価値です。これを導入すると、現場の判断や投資にどうつながりますか。

AIメンター拓海

要点を3つで整理しますね。1）説明が人間の言葉になることで現場の信頼が上がる。2）対照例を示すことで改善すべきポイントが明確になる。3）オントロジーを使えば部門横断で共通言語が作れるため、投資判断や品質管理に落とし込みやすくなるんです。

田中専務

なるほど。これって要するに、機械の判断を現場の言葉に翻訳して、どこを直せば良いかを示す仕組みを作るということですね？

AIメンター拓海

その通りですよ。さらに言えば、説明は個人や文脈（personalisation / contextualisation, PC, 個人化・文脈化）が重要だと論文は指摘しています。つまり、同じ予測でも見る人や状況によって「効く説明」は違うので、説明の選び方にも知恵が必要です。

田中専務

分かりました。最後にもう一つ。実際にこれを社内に落とし込むにはどの辺りをまずやれば良いですか。

AIメンター拓海

大丈夫、一緒にやれば必ずできますよ。まずは現場で使っている「言葉の辞書」を整備すること、次に代表例と対照例を現場のデータから抽出して見せること、最後に説明の評価ルールを決めることです。これで説明が実際の改善や投資判断につながりますよ。

田中専務

分かりました。自分の言葉で言うと、「機械の判定を現場の概念で説明して、改善点を示すことで意思決定を助ける仕組み」ということで間違いありませんか。