CATEGORY

Adversarial Attack

963
  • 論文研究

最先端防御に挑むブラックボックス敵対的攻撃（RobustBlack: Challenging Black-Box Adversarial Attacks on State-of-the-Art Defenses）

田中専務拓海先生、最近「ブラックボックス攻撃」って聞くんですが、我が社のように外部APIでAIを使う場合、何を心配すればいいですか。そもそもブラックボックス攻撃って何なんでしょうか。AIメンター拓海素晴らしい着眼点ですね！ブラックボックス攻撃とは、内部の仕組みが見えない相手（APIや外部

  • Adversarial Attack
  • 論文研究

空間的敵対的整合による攻撃転送性の向上（Boosting Adversarial Transferability with Spatial Adversarial Alignment）

田中専務拓海先生、最近部下から「敵対的攻撃の研究が進んでいます」と言われて済んでしまったのですが、率直に言って何が重要なのか見当もつきません。うちの製品に関係ありますか。AIメンター拓海素晴らしい着眼点ですね！大丈夫です、田中専務。これから簡単に、要点を押さえて説明しますよ。今回の研究は

  • Adversarial Attack
  • 論文研究

敵対的に堅牢な深層距離学習への道（Towards Adversarially Robust Deep Metric Learning）

田中専務拓海先生、最近部下から「深層距離学習を守る必要がある」と聞きまして、正直ピンとこないんです。これって要するに何が問題なんでしょうか？AIメンター拓海素晴らしい着眼点ですね！まずは要点を三つに分けて説明します。第一に、Deep Metric Learning（DML：深層距離学習）

  • Adversarial Attack
  • , Classification
  • 論文研究

画像ベース多モーダルモデルを侵入者として用いる：動画ベースMLLMへの転移可能なマルチモーダル攻撃（Image-based Multimodal Models as Intruders: Transferable Multimodal Attacks on Video-based MLLMs）

田中専務拓海先生、最近部下が『動画のAIは攻撃を受けやすい』とか言ってきて、なんだか不安なんです。要するに我が社の製造現場の監視カメラも危ないということでしょうか。AIメンター拓海素晴らしい着眼点ですね！まず結論を短く言うと、論文は『画像ベースのモデルを使って動画向けのAIを外部から誤作

  • LLM
  • , Adversarial Attack
  • 論文研究

追加画像誘導型の転送可能な敵対的攻撃の生成（Additional Image Guided Generation of Transferable Adversarial Attacks）

田中専務拓海先生、最近部署で『敵対的攻撃』という言葉が出てきまして。現場の若手が論文を持ってきたのですが、正直私には読み切れません。社として注目すべき技術なのか、まずは要点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！まず結論から申し上げますと、今回の研究は「追加の画像

  • Adversarial Attack
  • 論文研究

深層学習ベースMRI再構成に対する訓練不要の敵対的攻撃緩和（Training-Free Mitigation of Adversarial Attacks on Deep Learning-Based MRI Reconstruction）

田中専務拓海先生、お忙しいところ失礼します。最近、若手が『医療画像のAIが攻撃で壊れる』なんて話をしてまして、正直ピンと来ません。要するに、何が問題なんでしょうか？AIメンター拓海素晴らしい着眼点ですね！大丈夫、分かりやすく噛み砕いて説明しますよ。簡単に言うと、AIに与えるデータに小さな

  • Adversarial Attack
  • , Deep Learning
  • 論文研究

より強固なテキスト防御ベンチマークの提示（Tougher Text, Smarter Models: Raising the Bar for Adversarial Defence Benchmarks）

田中専務拓海さん、最近部下から「モデルが簡単に騙される」って聞いて不安なんです。論文を読めと言われたのですが、何が問題なのかさっぱりでして。AIメンター拓海素晴らしい着眼点ですね！端的に言うと、この論文は「どの防御がどれほど効くか」を公正に比べるための新しいベンチマークを作った研究です。

  • Adversarial Attack
  • 論文研究

グラフ敵対的攻撃の「検出されにくさ」の測定（On Measuring Unnoticeability of Graph Adversarial Attacks）

田中専務拓海先生、最近部下から「グラフに対する敵対的攻撃が問題だ」と聞きまして、正直ピンと来ておりません。どんな脅威なのか、簡潔に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！一言で言えば、グラフデータ上で誰かがこっそり手を加えて、システムの判断を誤らせる攻撃です。グラフ

  • Adversarial Attack
  • 論文研究

Zero-Order Quantized Optimization（ZOQO: Zero-Order Quantized Optimization）

田中専務拓海さん、最近部下から「量子化されたモデルでも学習できる手法がある」と聞きまして、計算資源が限られた現場でも使えると聞きました。要するに今のサーバを換えずにAIを運用できるという話なんでしょうか。AIメンター拓海素晴らしい着眼点ですね！結論から言うと、その通りの可能性が高いです。

  • Adversarial Attack
  • , Gradient Descent
  • 論文研究

多目的セットベース攻撃フレームワーク（MOS-Attack: A Scalable Multi-objective Adversarial Attack Framework）

田中専務拓海先生、最近社内で「敵対的攻撃」という話が出てきまして、正直何を心配すればいいのか分からないのです。モデルが簡単に騙されるという話は聞きますが、それが我々の事業にどう関係するのでしょうか。AIメンター拓海素晴らしい着眼点ですね！敵対的攻撃とは、モデルの入力をごく小さく乱して誤認

  • Adversarial Attack