Adversarial Attack

969
  • 論文研究

対数出力の整合で堅牢化する手法(Adversarial Logit Pairing)

田中専務拓海先生、この論文って要するに我々の部品検査システムをハッキングから守れるようになるってことでしょうか。うちの現場はデジタルが苦手で、導入後の効果とコストが心配です。AIメンター拓海素晴らしい着眼点ですね!大丈夫、対策の本質を3点で押さえれば導入判断ができますよ。まず一つ目は「モ

  • 論文研究

大きなマージンを持つ深層ネットワークの設計(Large Margin Deep Networks for Classification)

田中専務拓海先生、お忙しいところ失礼します。部署の若手が『大きなマージンを持たせると汎化が良くなる』と言うのですが、そもそもマージンって経営で言えば何に当たるのでしょうか。投資対効果の観点で導入する価値があるか、端的に知りたいのです。AIメンター拓海素晴らしい着眼点ですね!田中専務、要点

  • 論文研究

協働的マルチタスク訓練による敵対的攻撃への防御(Defending against Adversarial Attack towards Deep Neural Networks via Collaborative Multi-Task Training)

田中専務拓海先生、お忙しいところ失礼します。最近、部下から「敵対的攻撃に強い仕組みを入れるべきだ」と言われまして、正直何から手を付けて良いか分かりません。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。今日は「協働的マルチタスク訓練」という考え方を分かりやすくお伝え

  • 論文研究

スパース表現による敵対的攻撃への対抗(COMBATING ADVERSARIAL ATTACKS USING SPARSE REPRESENTATIONS)

田中専務拓海先生、最近部下から「AIがちょっと危ないらしい」と聞きまして、特に小さなノイズで判定が変わる話があると。うちの現場に導入する前に、まず何が問題なのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!田中専務、その現象は「敵対的攻撃」と呼ばれるもので、小さな意図的な

  • 論文研究

分散ネットワークの衝撃(VARIANCE NETWORKS: WHEN EXPECTATION DOES NOT MEET YOUR EXPECTATIONS)

田中専務拓海先生、最近部下から「Variance Networksが面白い」と聞きましてね。正直、期待値という言葉は分かるが、訓練時のノイズで学ぶってどういうことか、経営判断にどう活かせるのかがつかめません。要するに私の会社の現場に入れる価値があるのか教えてください。AIメンター拓海素晴

  • 論文研究

外れ値に強い確率的最適化のメタアルゴリズム「Sever」について(Sever: A Robust Meta-Algorithm for Stochastic Optimization)

田中専務拓海先生、最近、部下から「外れ値に強い学習手法を調べろ」と言われまして。うちの現場データは時々、変な値が混じるんです。こういうのがあるとモデルが簡単に壊れると聞きましたが、要するに何が問題なのでしょうか。AIメンター拓海素晴らしい着眼点ですね!データに混じる「外れ値」は、例えるな

  • 論文研究

JPEG画像を敵対的攻撃から守る(Protecting JPEG Images Against Adversarial Attacks)

田中専務拓海先生、お時間いただきありがとうございます。最近、部下から「画像認識にAIを導入すれば検査が効率化する」と言われているのですが、いわゆる敵対的攻撃という話を聞いて心配になりました。要は、誰かが画像に細工して誤認識させると聞きまして、現場で使えるものか判断がつかないのです。AIメン

  • 論文研究

大規模バッチ学習と敵対的耐性のヘシアン解析(Hessian-based Analysis of Large Batch Training and Robustness to Adversaries)

田中専務拓海先生、最近部下から「大きなバッチ(large batch)で学習すると精度が落ちる」と聞きまして、会議で説明を求められました。そもそも何が問題なのか、要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。結論を3行で言うと、(1)

  • 論文研究

分類器のランダムノイズに対する頑健性(Robustness of classifiers to uniform ℓp and Gaussian noise)

田中専務拓海先生、お時間よろしいですか。最近、部下が『ノイズ対策が必要です』と言いまして、どう判断すべきか困っております。今回の研究は経営判断にどう関係するのでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫です、一緒に整理しましょう。結論を先に言うと、この研究は『通常のランダム

  • 論文研究

深層学習顔認識の敵対的攻撃に対する堅牢性の解明(Unravelling Robustness of Deep Learning based Face Recognition Against Adversarial Attacks)

田中専務拓海先生、最近うちの若手から「顔認識にAIを使おう」と言われましてね。ただ、外部の写真や現場の乱れで誤認識が起きると聞いて心配なんです。これって実際どれくらい気にするべき問題ですか?AIメンター拓海素晴らしい着眼点ですね!大丈夫です、要点を3つで説明しますよ。まず、深層学習モデル