Fairness

1546
  • 論文研究

少数ショット学習における人口統計的公平性のためのショット選択(Selecting Shots for Demographic Fairness in Few-Shot Learning with Large Language Models)

\n田中専務\n拓海先生、最近若手から『大きな言語モデルで少数ショット学習を使えばすぐに実務で使える』と言われまして。ですが、現場で使うと偏りが出ると聞いて不安なのです。要するに、うちの判断をモデルが偏らせるリスクはあるのでしょうか。\n\n\nAIメンター拓海\n素晴らしい着眼点ですね!大丈夫、一

  • 論文研究

虐待的言語検出モデルにおける公平性の脆弱性の暴露(Beyond Detection: Unveiling Fairness Vulnerabilities in Abusive Language Models)

田中専務拓海先生、最近うちの若手が「モデルが偏ると顧客対応でまずい」と言ってまして、論文を読めと言われたのですが、正直何から手を付けていいかわかりません。まず要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!今回の論文は「検出性能を落とさずに公平性だけを狙う攻撃」が可能

  • 論文研究

連合学習における寄与評価(Contribution Evaluation in Federated Learning: Examining Current Approaches)

田中専務拓海先生、お忙しいところすみません。部下から『寄与評価をきちんとやらないと連合学習が成り立ちません』と言われて、正直ピンと来ないのですが、要するにどういう話なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!まず結論を三行でまとめますよ。1) 寄与評価は連合学習で誰がどれだけ

  • 論文研究

Delete My Account: Impact of Data Deletion on Machine Learning Classifiers(Delete My Account: Impact of Data Deletion on Machine Learning Classifiers)

田中専務拓海さん、最近うちの現場でも「ユーザーがデータを消せと言っている」という話が出てましてね。GDPRだの何だの言われても、実務で何が変わるのかピンと来ないんです。AIメンター拓海素晴らしい着眼点ですね!まずは落ち着いて。今回扱う論文は「個人がデータ削除を要求したときに、機械学習の分

  • 論文研究

因果的公平性に基づくデータ再重み付け手法(Causal Fairness-Guided Dataset Reweighting using Neural Networks)

田中専務拓海先生、最近部下が『因果的公平性』とか『データの再重み付け』って言ってまして、正直ピンと来ないのです。これって要するに何が違うんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。結論を先に言うと、この論文は『データの重みを変えることで、因果関係に

  • 論文研究

放射線レポートを生成するTransformer:非画像データで条件付けする(Radiology Report Generation Using Transformers Conditioned with Non-imaging Data)

田中専務拓海先生、最近の論文で「画像だけでなく患者情報も使って胸部X線の読影レポートを自動生成する」って話を聞きました。うちの現場でも使えるんですかね?AIメンター拓海素晴らしい着眼点ですね!大丈夫、端的に言うと「画像(胸部X線)だけでなく、年齢・性別などの患者情報を組み合わせてより患者

  • 論文研究

機械学習アルゴリズムが誘発するフィードバックループの性能監視と因果的推定 — Monitoring the performance of machine learning algorithms that induce feedback loops: what is the causal estimand?

田中専務拓海先生、最近部下からAIの導入を急かされてましてね。導入後に性能が落ちたらどうするか、現場が心配しているのですが、論文を読んだら「フィードバックループ」という言葉が出てきて、よく分かりません。要するに導入したら逆にデータが変わるという話ですか?AIメンター拓海素晴らしい着眼点で

  • 論文研究

不均一データ上の合意機構によるフェデレーテッドラーニング:収束に関する新しい視点(Federated Learning via Consensus Mechanism on Heterogeneous Data: A New Perspective on Convergence)

田中専務拓海先生、最近部下からフェデレーテッドラーニング(Federated Learning)が注目だと聞きましたが、我が社のように現場ごとにデータがばらばらだと本当に使えるのでしょうか。AIメンター拓海素晴らしい着眼点ですね!フェデレーテッドラーニングは中央にデータを集めずに学ぶ技術

  • 論文研究

公平で低コストな階層クラスタリングの多項対数近似(Fair, Polylog-Approximate Low-Cost Hierarchical Clustering)

田中専務拓海先生、最近部署で『階層クラスタリング』という言葉が出てきましてね。部下から「公平性(フェアネス)を考慮した手法が良い」と聞いたのですが、正直ピンと来なくて。これって要するに我々の顧客をどのように公平に分類するかということですか?費用対効果はどう見ればいいのでしょうか。AIメンタ

  • 論文研究

表現バイアスをワッサーシュタイン距離で是正する敵対的再重み付け(Adversarial Reweighting Guided by Wasserstein Distance for Bias Mitigation)

田中専務拓海さん、部下から『うちもAIで公平性を担保すべきだ』と言われて困っているんです。そもそもデータに偏りがあると何が問題になるんでしょうか。AIメンター拓海素晴らしい着眼点ですね!まず一言で言うと、データの偏りは『特定グループの扱いが不利になる決定』をモデルが学んでしまう原因です。