Adversarial Attack

484
  • 論文研究

継続的敵対的防御(Continual Adversarial Defense)

田中専務拓海先生、最近部下から「敵対的攻撃に継続対応する論文が出ました」と聞きまして、正直何をもって会社に関係あるのか掴めておりません。要点だけ手短に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫です、要点を3つでまとめますよ。まず、この研究は「攻撃が時間とともに進

  • 論文研究

物理世界における転移可能なターゲット型3D敵対的攻撃への道(Towards Transferable Targeted 3D Adversarial Attack in the Physical World)

田中専務拓海先生、お時間いただきありがとうございます。最近、部下から3Dの敵対的攻撃という言葉を聞いて不安になっていますが、うちの工場や製品に関係ありますか。AIメンター拓海素晴らしい着眼点ですね!まず結論を簡潔に述べますと、ある種の自動認識システムに対しては関係します。特にカメラで物体

  • 論文研究

マルウェア分類における敵対的攻撃と防御の調査(A Malware Classification Survey on Adversarial Attacks and Defenses)

田中専務拓海先生、最近うちの若手が「マルウェア対策はAIでやるべきだ」と盛んに言うのですが、正直何を心配すればいいのか分かりません。論文を読めと言われましたが、英語の技術論文は苦手でして……導入の投資対効果をどう見ればいいのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!

  • 論文研究

ロゴスタイル転送による動画認識系の脆弱化(LogoStyleFool: Vitiating Video Recognition Systems via Logo Style Transfer)

田中専務拓海先生、お忙しいところ恐縮です。最近、部下から動画を狙う『攻撃』みたいな話を聞いて不安になりまして。うちの監視カメラや品質検査のカメラが簡単に騙されるなんてことがあるのですか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理すれば怖くありませんよ。今回の論文は動画認識

  • 論文研究

能動防御による堅牢な通信型マルチエージェント強化学習(Robust Communicative Multi-Agent Reinforcement Learning with Active Defense)

田中専務拓海先生、最近部下から「マルチエージェントで通信が大事だ」と聞くのですが、社内の自動化で具体的に何を気にすればいいのでしょうか。攻撃されると困るのではないかと不安です。AIメンター拓海素晴らしい着眼点ですね!マルチエージェントの通信は、例えば工場のロボット同士が情報を交換して協調

  • 論文研究

Tensor Train Decomposition for Adversarial Attacks(テンソル・トレイン分解による敵対的攻撃)

\n田中専務\n拓海先生、最近『敵対的攻撃』って言葉を現場でよく聞くようになりましてね。ウチの若手が「対策が必要です」と言うのですが、そもそも何が問題なのか今ひとつピンと来なくて。要するにうちの製品やサービスが簡単に騙されるってことですか?\n\n\nAIメンター拓海\n素晴らしい着眼点ですね!大丈

  • 論文研究

相互モダリティ敵対的攻撃と意味的摂動(Mutual-modality Adversarial Attack with Semantic Perturbation)

田中専務拓海先生、最近ニュースで「CLIPを使った攻撃」って話を聞きまして。うちの現場でもAIを導入する話が出ているのですが、こういう脅威は経営判断にどう関係しますか。AIメンター拓海素晴らしい着眼点ですね!端的に言うと、この論文は画像と言葉を同時に扱うモデルを使って「攻撃(advers

  • 論文研究

AutoAugment Input Transformation for Highly Transferable Targeted Attacks(AutoAugment入力変換による高い転移性を持つ標的型攻撃)

田中専務拓海さん、最近部下から「ターゲット型攻撃の研究が進んでいる」と聞きまして、正直何が問題で何が新しいのかすぐには掴めません。要するに今の話はうちのような現場にとってどう関係あるんですか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。端的に言うと今回の研究は「

  • 論文研究

テキストから画像生成における非対称的バイアスと敵対的攻撃(Asymmetric Bias in Text-to-Image Generation with Adversarial Attacks)

田中専務拓海先生、最近若手から「Text-to-Imageの脆弱性を突く論文」が話題だと聞きました。うちでも使う前に知っておきたいのですが、要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!結論からいうと、この論文はText-to-Image(T2I)モデルが“非対称的

  • 論文研究

偽ニュース検出に対する敵対的データ毒性攻撃(Adversarial Data Poisoning for Fake News Detection: How to Make a Model Misclassify a Target News without Modifying It)

田中専務拓海さん、お忙しいところすみません。最近、部下から「偽ニュース対策にAIを入れるべきだ」と言われているんですが、先日この論文の話が出まして、ちょっと怖くなりました。要するに、外から悪意あるデータでうちの検出モデルを騙せる、という理解で合っていますか?AIメンター拓海素晴らしい着眼