CATEGORY

Adversarial Attack

550
  • 論文研究

プロンプトベース言語モデルに対する自然かつ普遍的な敵対的攻撃（LinkPrompt: Natural and Universal Adversarial Attacks on Prompt-based Language Models）

田中専務拓海先生、最近部下から「プロンプトで学習したモデルが危ない」と聞いたのですが、具体的に何が問題なのでしょうか。AIの安全対策として何を意識すべきか、経営判断につなげたいのです。AIメンター拓海素晴らしい着眼点ですね！まず結論を一言で言うと、今回の研究は「入力に関係なく働く『普遍的

  • Adversarial Attack
  • 論文研究

敵対的攻撃の構造解析（The Anatomy of Adversarial Attacks: Concept-based XAI Dissection）

田中専務拓海先生、最近部下から「敵対的攻撃の論文を読むべきだ」と言われまして、正直何から手を付けて良いか分かりません。これって要するに何が問題なんでしょうか。AIメンター拓海素晴らしい着眼点ですね！まず結論だけ伝えると、この論文は「敵対的攻撃（Adversarial Attacks、AA

  • Adversarial Attack
  • 論文研究

不確実性を考慮したSAR ATR：ベイズニューラルネットワークによる敵対的攻撃防御（Uncertainty-Aware SAR ATR: Defending Against Adversarial Attacks via Bayesian Neural Networks）

田中専務拓海先生、お忙しいところ失礼します。最近、弊社の部下から「AIで検査を強化すべきだ」と言われまして、特にレーダー画像を使う分野で敵対的攻撃という話を聞きまして。これって経営判断として本気で考えるべき問題でしょうか。AIメンター拓海素晴らしい着眼点ですね！敵対的攻撃というのは、AI

  • Adversarial Attack
  • 論文研究

単語レベル攻撃に頑健な表現を学ぶマクロ敵対的訓練（SemRoDe: Macro Adversarial Training to Learn Representations That are Robust to Word-Level Attacks）

田中専務拓海先生、最近の論文で「単語レベルの攻撃に強い表現を学ぶ」というのを見かけましたが、正直何が問題で何が進んだのかがよくわかりません。要するにどんな価値があるのでしょうか。AIメンター拓海素晴らしい着眼点ですね！一言で言うと、言葉を少し変えられただけでAIの判断がガタッと崩れる弱点

  • Adversarial Attack
  • , Classification
  • 論文研究

顔反欺瞞対策のテスト時ドメイン一般化 — Test-Time Domain Generalization for Face Anti-Spoofing

田中専務拓海さん、最近部下が顔認証の話で騒いでましてね。いろいろなカメラや照明で誤認識が出るからAIを入れ替えろと言うのですが、本当に我々の現場で効果があるのか見当がつかなくて困っています。AIメンター拓海素晴らしい着眼点ですね！顔認証を守る技術、いわゆるFace Anti-Spoofi

  • Adversarial Attack
  • 論文研究

ブラックボックスニューラルランキングモデルに対する多粒度敵対的攻撃（Multi-granular Adversarial Attacks against Black-box Neural Ranking Models）

田中専務拓海先生、最近部下から「検索やランキングにAIの脆弱性がある」と聞いて困っています。この記事は何を教えてくれるんですか？AIメンター拓海素晴らしい着眼点ですね！今回は、検索結果を決めるニューラルランキングモデルに対して、攻撃者が多様な細かさ（単語・文・複数箇所）で仕掛ける攻撃手法

  • Reinforcement Learning
  • , Adversarial Attack
  • 論文研究

深層ニューラルネットワークの特性修復のためのパッチ合成（Patch Synthesis for Property Repair of Deep Neural Networks）

田中専務拓海先生、最近部下が『この論文が面白い』と言っているのですが、要点が掴めず困っています。うちの生産ラインに関係ありますかね？AIメンター拓海素晴らしい着眼点ですね！この論文は、Deep Neural Networks（DNNs、深層ニューラルネットワーク）が誤動作した時に、元のモ

  • Adversarial Attack
  • 論文研究

継続的な敵対的防御のための擬似リプレイ手法（Defense without Forgetting: Continual Adversarial Defense with Anisotropic & Isotropic Pseudo Replay）

田中専務拓海先生、最近うちの若手から「継続して防御できるAIが必要です」と言われまして、正直ピンと来ないのです。今回の論文って経営判断にどう関係するのでしょうか。AIメンター拓海素晴らしい着眼点ですね！まず結論を三つでお伝えしますよ。今回の研究は、既に学習した攻撃対策を忘れずに、新たな攻

  • Continual Learning
  • , Adversarial Attack
  • 論文研究

敵対的フィッシングウェブページは現実に脅威か？（Are Adversarial Phishing Webpages a Threat in Reality?）

田中専務拓海先生、最近うちの部下が『論文で報告された攻撃』が現場にも来ると言ってまして、正直よく分かりません。これってうちの取引先サイトや社内受信のメールに関係ありますか？AIメンター拓海素晴らしい着眼点ですね！大丈夫です、これは経営判断に直結する話ですよ。要点を先に3つで言うと、1)

  • Adversarial Attack