訓練データと変換器テキストモデルの敵対的頑健性の相関を探る奇妙な事例(A Curious Case of Searching for the Correlation between Training Data and Adversarial Robustness of Transformer Textual Models)
田中専務拓海さん、最近部下から「うちのモデルは攻撃に弱い」って言われましてね。敵対的攻撃って言葉は聞いたことがありますが、どれくらい深刻なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!敵対的攻撃(adversarial attack、意図的な入力改変)は、モデルの判断を小さな変化