CATEGORY

Adversarial Attack

550
  • 論文研究

ビデオ品質評価モデルの脆弱性：敵対的攻撃の課題（Vulnerabilities in Video Quality Assessment Models: The Challenge of Adversarial Attacks）

田中専務拓海先生、最近、品質管理でAIを使うべきだと現場から言われているのですが、ビデオの品質をAIが評価するって本当に信頼できるのでしょうか。導入のリスクが気になります。AIメンター拓海素晴らしい着眼点ですね！今回は、最近の研究が示した「ビデオ品質評価モデルの脆弱性（Vulnerabi

  • Adversarial Attack
  • , Neural Networks
  • 論文研究

深層畳み込みニューラルネットワークのロバスト性向上のための多解像度学習（Improving Robustness of Deep Convolutional Neural Networks via Multiresolution Learning）

1. 概要と位置づけ結論を先に述べる。この研究は、多解像度学習（multiresolution learning）という学習パラダイムを深層畳み込みニューラルネットワーク（Convolutional Neural Network, CNN）に適用することで、モデルのノイズ耐性や敵対的攻撃（adve

  • Continual Learning
  • , Adversarial Attack
  • 論文研究

人物再識別システムに対する2つの敵対的攻撃の組み合わせ（Combining Two Adversarial Attacks Against Person Re-Identification Systems）

田中専務拓海先生、最近部下から「監視カメラの画像認識を強化したい」と言われまして、Person Re-Identificationという論文が話題だと聞きました。ただ私、デジタルは苦手でして、要点を平たく教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、一緒にやれば必

  • Adversarial Attack
  • 論文研究

動画物体分割に対する敵対的攻撃とHard Region Discovery（Adversarial Attacks on Video Object Segmentation with Hard Region Discovery）

田中専務拓海先生、最近の論文で「動画の物体分割を小さなノイズで壊せる」という話を聞きましたが、それって我々の現場でどういうリスクになりますか。正直、難しくてピンと来ないのです。AIメンター拓海素晴らしい着眼点ですね！田中専務、大丈夫です。要点を先に言うと、論文は「動画物体分割（Video

  • Adversarial Attack
  • 論文研究

Deep RLトレーディングエージェントに対するグレイボックス敵対的攻撃（Gray-box Adversarial Attack of Deep Reinforcement Learning-based Trading Agents）

田中専務拓海先生、最近社内で「Deep RLを使った自動売買が攻撃される」という話が出てきまして、正直よく分かっておりません。要するに外部の誰かが我々の利益を減らすように仕組めるという話でしょうか。現場に導入するかどうか判断したいのですが、まずは概念を平易に教えていただけますか。AIメンタ

  • Reinforcement Learning
  • , Adversarial Attack
  • 論文研究

自動運転のための転送可能な敵対的シミュレーションシナリオ生成（Generating Transferable Adversarial Simulation Scenarios for Self-Driving via Neural Rendering）

田中専務拓海先生、お時間いただきありがとうございます。部下から『AIを入れろ』と言われているのですが、最近読んだ論文で「シミュレーションで自動運転の失敗ケースを自動生成する」とありまして、現場でどう役立つのかイメージが湧きません。投資対効果を踏まえた実務的な説明をお願いできますか。AIメン

  • Adversarial Attack
  • 論文研究

内在的な生物学的に妥当な敵対的ロバスト性（Intrinsic Biologically Plausible Adversarial Robustness）

田中専務拓海先生、お忙しいところ恐縮です。最近、部下から「敵対的攻撃に強いニューラルネットがある」と聞かされまして、正直何を心配すれば良いのか見当がつきません。要するに我が社の製品データを守るために知っておくべき点を教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、一

  • Adversarial Attack
  • 論文研究

分散ニューラルネットワークの潜在表現への敵対的攻撃（Adversarial Attacks to Latent Representations of Distributed Neural Networks in Split Computing）

田中専務拓海先生、最近部下から「端末とクラウドでAIを分割して処理すべきだ」と言われているのですが、その論文に“潜在表現（latent representation）への攻撃”があると聞いて不安です。要するに現場の機械に入れたAIが第三者に悪用される恐れがあるのですか？AIメンター拓海素

  • Adversarial Attack
  • 論文研究

Adversarial Explainability: Utilizing Explainable Machine Learning in Bypassing IoT Botnet Detection Systems（説明可能な機械学習を利用したIoTボットネット検出回避手法）

田中専務拓海先生、最近部下から「説明可能性（Explainable AI）が重要だ」と聞いたのですが、正直ピンと来ません。今回の論文はどんな話なのですか。AIメンター拓海素晴らしい着眼点ですね！今回の論文は、機械学習モデルの「説明可能性」を逆手に取って、防御側の検出をかいくぐる攻撃につい

  • Adversarial Attack
  • 論文研究

ランダム化された特徴空間防御の堅牢性の理解 — Understanding the Robustness of Randomized Feature Defense against Query-Based Adversarial Attacks

田中専務拓海先生、最近AIの話が社内で持ち上がりまして、部下から「敵対的攻撃に備えろ」と言われて困っています。要するにどんなリスクがあるのか、まずは端的に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね！大丈夫、簡単に整理しますよ。まず結論を三つにまとめます。第一に、モデルは

  • Adversarial Attack