AIBR プレミアム
拓海先生、最近部署で「強化学習を導入すべきだ」と言われて困っております。特に現場の人々に不公平が起きないかが心配です。これは論文で議論されている「公平性」という話と関係ありますか？
素晴らしい着眼点ですね！大丈夫、一緒に整理しましょう。今回扱うのは強化学習（Reinforcement Learning、RL＝強化学習）の中で、アルゴリズムが環境に与える影響とその公平性についてです。まずは全体像を3点で整理しますよ。
はい、お願い致します。経営の観点から言うと、導入中に特定の人や部門が長期的に不利にならないか、投資対効果が出るかが気になります。
まず本論文の要点は一つ目に、RLは短期行動が未来の状態に影響するため、従来の一回限りの判断とは違う公平性の考え方が必要だということですよ。二つ目に、厳密な公平性を機械学習の学習過程に課すと計算量が非常に大きくなる負の結果が示されています。三つ目に、現実的には”近似的な公平性”という緩め方で多項式時間の解法が可能になると提案されていますよ。
なるほど。けれども、実務で言うところの”公平”って、短期の成果を捨てても長期的に良いことが起きるかどうか、という判断に似ますね。具体的にはどういう場面を想定しているのですか？
例えば採用の自動化で考えると、面接アルゴリズムがある特定の候補者群を繰り返し選ばないと、その群の将来スキルや実績が育たない可能性があります。強化学習では意思決定が累積的に影響するので、その長期的な価値（state-action value function、Q*）で公平性を定義するのです。要は現在の選択が将来の機会に影響してはいけない、という観点です。
これって要するに、短期の利益だけ見て行動を偏らせると、長期的には特定の人たちに不当な不利益が貯まるという話ですか？
その通りですよ。そして驚くべき点は理想的な公平性を厳密に守ろうとすると、状態数が増えると必要な学習時間が指数的に増える可能性があると論文は指摘しているのです。したがって現場では”完全公平”は現実的でない場合がある、という経営判断が必要になりますね。
なるほど、では現実的にはどう折り合いを付けるのが良いのでしょうか。導入コストや現場負担を抑えつつ、重大な不公平を避ける方法を教えてください。
良い質問です。整理すると、まず初めに対象となる意思決定の時間軸と影響範囲を明確にすること、次に厳密な公平性を求めるコストを見積もること、最後に”近似的公平性”を用いて実装可能なガードレールを設けることの3点です。近似的公平性は
監修者
阪上雅昭（SAKAGAMI Masa-aki）
京都大学 人間・環境学研究科 名誉教授
論文研究シリーズ
AI技術革新 - 人気記事
PCも苦手だった私が
