Adversarial Attack

963
  • 論文研究

基底関数変換による敵対的画像への防御(Defending against Adversarial Images using Basis Functions Transformations)

田中専務拓海先生、最近部下から『敵対的攻撃に備えた対策を考えろ』と言われまして、正直なところ何から手を付ければよいのか見当がつきません。今回の論文はざっくり何を示しているのですか?AIメンター拓海素晴らしい着眼点ですね!この論文は要するに、画像を『基底関数』という見方で分解して、そこに対

  • 論文研究

JPEGとJPEG2000圧縮が敵対的例(Adversarial Examples)攻撃に与える影響(The Effects of JPEG and JPEG2000 Compression on Attacks using Adversarial Examples)

田中専務拓海先生、最近部下から「敵対的攻撃に対応するには画像圧縮を使うといい」と聞いたのですが、正直ピンと来なくてして、要点をまず簡単に教えてくださいませんか。AIメンター拓海素晴らしい着眼点ですね!簡潔に言うと、この論文は既存の画像圧縮―具体的にはJPEGとJPEG2000という方式―

  • 論文研究

ヤコビアン正則化によるDNNの敵対的耐性向上(Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization)

田中専務拓海さん、最近うちの現場でも「AIはちょっとした入力の違いで誤作動する」と聞きまして、具体的にどう直せるのか教えてくださいませんか。導入判断で使える要点が欲しいんです。AIメンター拓海素晴らしい着眼点ですね!大丈夫、必ず理解できますよ。今回扱う論文は「入力に小さなノイズが入っても

  • 論文研究

入力信号を守る防御:Structure-to-Signal Autoencodersによる敵対的防御(Adversarial Defense based on Structure-to-Signal Autoencoders)

田中専務拓海さん、最近うちの若手が『敵対的攻撃が云々』と言ってきて、正直ピンと来ないんです。要するにうちの画像検査システムが騙されるってことですかね。AIメンター拓海素晴らしい着眼点ですね!田中専務、その通りです。敵対的攻撃とは人の目ではほとんど気づかない小さなノイズでAIの判定を誤ら

  • 論文研究

対数出力の整合で堅牢化する手法(Adversarial Logit Pairing)

田中専務拓海先生、この論文って要するに我々の部品検査システムをハッキングから守れるようになるってことでしょうか。うちの現場はデジタルが苦手で、導入後の効果とコストが心配です。AIメンター拓海素晴らしい着眼点ですね!大丈夫、対策の本質を3点で押さえれば導入判断ができますよ。まず一つ目は「モ

  • 論文研究

大きなマージンを持つ深層ネットワークの設計(Large Margin Deep Networks for Classification)

田中専務拓海先生、お忙しいところ失礼します。部署の若手が『大きなマージンを持たせると汎化が良くなる』と言うのですが、そもそもマージンって経営で言えば何に当たるのでしょうか。投資対効果の観点で導入する価値があるか、端的に知りたいのです。AIメンター拓海素晴らしい着眼点ですね!田中専務、要点

  • 論文研究

協働的マルチタスク訓練による敵対的攻撃への防御(Defending against Adversarial Attack towards Deep Neural Networks via Collaborative Multi-Task Training)

田中専務拓海先生、お忙しいところ失礼します。最近、部下から「敵対的攻撃に強い仕組みを入れるべきだ」と言われまして、正直何から手を付けて良いか分かりません。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。今日は「協働的マルチタスク訓練」という考え方を分かりやすくお伝え

  • 論文研究

スパース表現による敵対的攻撃への対抗(COMBATING ADVERSARIAL ATTACKS USING SPARSE REPRESENTATIONS)

田中専務拓海先生、最近部下から「AIがちょっと危ないらしい」と聞きまして、特に小さなノイズで判定が変わる話があると。うちの現場に導入する前に、まず何が問題なのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!田中専務、その現象は「敵対的攻撃」と呼ばれるもので、小さな意図的な

  • 論文研究

分散ネットワークの衝撃(VARIANCE NETWORKS: WHEN EXPECTATION DOES NOT MEET YOUR EXPECTATIONS)

田中専務拓海先生、最近部下から「Variance Networksが面白い」と聞きましてね。正直、期待値という言葉は分かるが、訓練時のノイズで学ぶってどういうことか、経営判断にどう活かせるのかがつかめません。要するに私の会社の現場に入れる価値があるのか教えてください。AIメンター拓海素晴

  • 論文研究

外れ値に強い確率的最適化のメタアルゴリズム「Sever」について(Sever: A Robust Meta-Algorithm for Stochastic Optimization)

田中専務拓海先生、最近、部下から「外れ値に強い学習手法を調べろ」と言われまして。うちの現場データは時々、変な値が混じるんです。こういうのがあるとモデルが簡単に壊れると聞きましたが、要するに何が問題なのでしょうか。AIメンター拓海素晴らしい着眼点ですね!データに混じる「外れ値」は、例えるな