敵対的攻撃と訓練を通じた強化学習の頑健化に関する調査

（Robust Deep Reinforcement Learning Through Adversarial Attacks and Training: A Survey）

ケントくん

博士！強化学習が敵対的攻撃をまともに受けるとかって聞いたんだけど、それってどんな感じなの？

マカセロ博士

そうじゃな、ケントくん。強化学習は学習した環境で優れたパフォーマンスを発揮するが、意図的なノイズや不確実な状況下では動作が不安定になることがあるんじゃ。つまり、学習環境以外の突発的な変化に耐えにくい側面があるんじゃよ。

ケントくん

ふむふむ、それでどうやってその弱点を克服しようとしているの？

マカセロ博士

それについては今回の論文が詳しく述べておるよ。敵対的な状況を意図的に作り出し、それを通じて強化学習エージェントを訓練することで、より頑強なモデルを作り上げる試みじゃ。エージェントが不測の事態にも対応できるようになるのが目的なんじゃな。

引用情報

著者: 未知
論文名: “Robust Deep Reinforcement Learning Through Adversarial Attacks and Training: A Survey”
ジャーナル名: 未知
出版年度: 未知