AIBR プレミアム
拓海さん、最近部下から『ランキングの公平性を考えないとリスクが高い』とよく言われます。具体的に何が問題なのかざっくり教えていただけますか。
素晴らしい着眼点ですね！ランキングとは、検索結果や候補リストの並び順であり、上位ほど目に留まるため実利につながりますよ。ですから並べ方次第で特定の個人やグループが不利になることがあるんです。
なるほど。そこで“公平”と言うと種類があると聞きますが、何が違うのですか。
簡単に言うと、individual fairness（IF）個別公平性は「似た者同士は似た扱いを受けるべき」という考えであり、group fairness（GF）グループ公平性は「集団ごとに一定の代表性を保つべき」という考えです。それぞれ目的が違うため両立が難しい場面があるんですよ。
昔、似た履歴書の候補者を同じ確率で上位に出すのは筋が通っている、という話を聞きました。それがindividual fairnessのことですか。
その通りです。さらに実務では、候補者のスコアに不確実性があり、その不確実性を踏まえてランダム性を持たせることで平均的に公平にする手法が研究されています。しかし、そのランダムな出力がたまたまグループ公平性を破ることがあるのです。
これって要するに、平均では良くても一回一回の出力が法令や社内ルールに違反する可能性がある、ということですか？
まさにそのとおりですよ。高リスク領域、たとえば採用や融資では各出力がグループ公平を満たしていることが求められる。研究はそこに目をつけ、個別公平性を保ちつつ、出力のすべてがグループ公平性を満たすサンプリング方法を提案しています。
要は『平均で公平』ではなく『常に公平』にする方法がある、という理解でいいですか。経営的には「いつでもルールを満たす」方が安心です。
大丈夫、一緒にやれば必ずできますよ。要点は三つです。第一に、個別公平性の制約を満たす確率分布を設計する。第二に、その分布からサンプリングする際に必ずグループ公平性を満たすように出力を修正する。第三に、その結果の期待利得（expected utility（EU）期待効用）をできるだけ落とさないようにすることです。
分かりました。これって要するに、似た評価の人は似た露出を得つつ、出すランキングは必ずグループの代表性を保つように調整するということですね。私の言葉で言うと『個別は平均で公平、出力は常にグループ公平にする』という理解で合っていますか。
素晴らしいまとめです！その理解で正しいです。では次に、経営判断に直結する観点だけを短く整理しましょうか。投資対効果、導入コスト、法令リスク削減の三つに分けて説明できますよ。
