Adversarial Attack

418
  • 論文研究

マルウェア分類における敵対的攻撃と防御の調査(A Malware Classification Survey on Adversarial Attacks and Defenses)

田中専務拓海先生、最近うちの若手が「マルウェア対策はAIでやるべきだ」と盛んに言うのですが、正直何を心配すればいいのか分かりません。論文を読めと言われましたが、英語の技術論文は苦手でして……導入の投資対効果をどう見ればいいのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!

  • 論文研究

ロゴスタイル転送による動画認識系の脆弱化(LogoStyleFool: Vitiating Video Recognition Systems via Logo Style Transfer)

田中専務拓海先生、お忙しいところ恐縮です。最近、部下から動画を狙う『攻撃』みたいな話を聞いて不安になりまして。うちの監視カメラや品質検査のカメラが簡単に騙されるなんてことがあるのですか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理すれば怖くありませんよ。今回の論文は動画認識

  • 論文研究

能動防御による堅牢な通信型マルチエージェント強化学習(Robust Communicative Multi-Agent Reinforcement Learning with Active Defense)

田中専務拓海先生、最近部下から「マルチエージェントで通信が大事だ」と聞くのですが、社内の自動化で具体的に何を気にすればいいのでしょうか。攻撃されると困るのではないかと不安です。AIメンター拓海素晴らしい着眼点ですね!マルチエージェントの通信は、例えば工場のロボット同士が情報を交換して協調

  • 論文研究

Tensor Train Decomposition for Adversarial Attacks(テンソル・トレイン分解による敵対的攻撃)

\n田中専務\n拓海先生、最近『敵対的攻撃』って言葉を現場でよく聞くようになりましてね。ウチの若手が「対策が必要です」と言うのですが、そもそも何が問題なのか今ひとつピンと来なくて。要するにうちの製品やサービスが簡単に騙されるってことですか?\n\n\nAIメンター拓海\n素晴らしい着眼点ですね!大丈

  • 論文研究

相互モダリティ敵対的攻撃と意味的摂動(Mutual-modality Adversarial Attack with Semantic Perturbation)

田中専務拓海先生、最近ニュースで「CLIPを使った攻撃」って話を聞きまして。うちの現場でもAIを導入する話が出ているのですが、こういう脅威は経営判断にどう関係しますか。AIメンター拓海素晴らしい着眼点ですね!端的に言うと、この論文は画像と言葉を同時に扱うモデルを使って「攻撃(advers

  • 論文研究

AutoAugment Input Transformation for Highly Transferable Targeted Attacks(AutoAugment入力変換による高い転移性を持つ標的型攻撃)

田中専務拓海さん、最近部下から「ターゲット型攻撃の研究が進んでいる」と聞きまして、正直何が問題で何が新しいのかすぐには掴めません。要するに今の話はうちのような現場にとってどう関係あるんですか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。端的に言うと今回の研究は「

  • 論文研究

テキストから画像生成における非対称的バイアスと敵対的攻撃(Asymmetric Bias in Text-to-Image Generation with Adversarial Attacks)

田中専務拓海先生、最近若手から「Text-to-Imageの脆弱性を突く論文」が話題だと聞きました。うちでも使う前に知っておきたいのですが、要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!結論からいうと、この論文はText-to-Image(T2I)モデルが“非対称的

  • 論文研究

Jacobian-induced Mahalanobis distance Attack (JMA):ほぼ最適なターゲット化敵対的事例を作る汎用アルゴリズム/JMA: a General Algorithm to Craft Nearly Optimal Targeted Adversarial Examples

田中専務拓海先生、最近部下から「敵対的事例(adversarial examples)に備えろ」と言われましてね。正直、何を怖がればいいのか見当がつかず困っています。これって要するに我が社のAIが簡単に“だます”ことができるってことですか?AIメンター拓海素晴らしい着眼点ですね!敵対的事

  • 論文研究

航空宇宙における深層ニューラルネットワーク分類器出力の認証手法(DEM: A Method for Certifying Deep Neural Network Classifier Outputs in Aerospace)

田中専務拓海先生、最近我が社の若手が『DNNを航空機検査に使おう』と言い出して困っております。精度は良いらしいが、規制や安全面が心配でして。これって要するに安全性をどう担保するかが問題ということですか?AIメンター拓海素晴らしい着眼点ですね!その通りです。結論を先に言うと、本論文は『ネッ

  • 論文研究

学習型画像圧縮に耐性を持つ転移可能な敵対的摂動(Transferable Learned Image Compression-Resistant Adversarial Perturbations)

田中専務拓海先生、最近部下から「学習型画像圧縮(Learned Image Compression)が要注意だ」と言われまして、正直ピンと来ておりません。うちの現場に何か影響が出るんですか?AIメンター拓海素晴らしい着眼点ですね!学習型画像圧縮(Learned Image Compres