説明の内容と形式がユーザーの理解と信頼に与える影響

（Exploring the Effect of Explanation Content and Format on User Comprehension and Trust）

田中専務

拓海先生、最近部下から「説明可能なAI（Explainable AI）が重要だ」と言われまして、どう対応すればよいか困っております。そもそも説明可能なAIって何から考えればいいのでしょうか。

AIメンター拓海

素晴らしい着眼点ですね！説明可能なAI、つまりExplainable AIは、AIの判断理由を人が納得できる形で示す仕組みですよ。要点は三つで、信頼の獲得、ミスの発見、導入判断の支援、です。大丈夫、一緒に整理すれば見えてきますよ。

田中専務

例えばうちの現場では、設備故障の予測にAIを使おうという話が出ていますが、現場のベテランがAIを信用してくれるかが心配です。説明があれば現場は納得しますか。

AIメンター拓海

そうですね、説明の“内容（content）”と“形式（format）”の両方が大事です。内容はどの要素が影響したか、形式は図や文章などの見せ方で、どちらが現場に受け入れられるかで理解度や信頼が変わるんですよ。要点は三つ、受け手に合わせること、誤解を防ぐこと、実務判断に繋げること、です。

田中専務

これって要するに、説明の中身をどう作るかと、それをどう見せるかの両方が重要で、どちらか一方だけ整えてもだめだということですか。

AIメンター拓海

その理解で正しいですよ。具体的には、同じ情報でもグラフで見せると誤解を招く場合があり、テキストの方が誤解が少ないケースがあるという研究結果もあります。大丈夫、導入時には対象者ごとに形式を試してから決めればよいのです。

田中専務

実務的には、説明を作るのにコストがかかりすぎるのではないかと心配です。投資対効果をどう見ればいいかアドバイスを頂けますか。

AIメンター拓海

投資対効果は、説明によって意思決定が変わる度合いと誤判断のコスト削減量で測るとよいですよ。要点は三つ、まず最小限の説明で改善が出るかを検証し、次にどの形式で現場が使いやすいかをA/Bで試し、最後に運用コストを見積もることです。一緒にKPIを設計できますよ。

田中専務

もし形式で誤解が出るなら、現場に一律に同じ形式を配るのではなく、職種ごとに見せ方を変えたほうがいいということですね。実際の評価はどうやって行えばよいですか。

AIメンター拓海

評価は二軸で行います。客観的理解（Objective comprehension）をテストする設問を用意し、主観的信頼（Trust）をアンケートで測ります。要点は三つ、設問は実務に近い例にすること、比較は同じユーザーで複数形式を試すこと、結果に基づいて改善を速く回すことです。

田中専務

なるほど、つまり”どの説明が一番現場の判断を良くするか”を実験で確かめるということですね。分かりました、まずは小さく始めてみます。ありがとうございました、拓海先生。

AIメンター拓海

素晴らしい締めですね！その方針で行けば必ず成果が見えてきますよ。大丈夫、一緒に設計しましょう。