Adversarial Attack

967
  • 論文研究

核マスクは外部ドメイン一般化に十分か?(Are nuclear masks all you need for improved out-of-domain generalisation?)

田中専務拓海さん、最近部下が「核(ナucleus)に注目する手法が外部データにも効く」って論文を持ってきて、正直言って耳慣れない話でして。これ、うちの現場で投資する価値ありますか?AIメンター拓海素晴らしい着眼点ですね!大丈夫ですよ、要点はシンプルです。結論を先に言うと「学習時に細胞核の

  • 論文研究

微分可能レンダリングを用いた敵対的攻撃の調査(Adversarial Attacks Using Differentiable Rendering: A Survey)

田中専務拓海先生、最近部下から「微分可能レンダリングを使った攻撃」という言葉を聞いて驚いたのですが、要するに何が問題なんでしょうか。うちの現場にどう関係するか、投資対効果を踏まえて教えてください。AIメンター拓海素晴らしい着眼点ですね!まず結論を端的に言うと、微分可能レンダリング(Dif

  • 論文研究

エッジ側のみで成立する普遍的敵対的攻撃(Edge-Only Universal Adversarial Attacks in Distributed Learning)

田中専務拓海さん、お忙しいところ失礼します。先日部下に『エッジ側で攻撃を仕掛けられる研究』があると聞いて、うちの設備にも関係あるかと心配になりました。これって要するに何が問題なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!簡単に言うと、今回の研究はクラウドと端末(エッジ)で機能を

  • 論文研究

ビジネスプロセス向けの現実的な敵対的事例生成(Generating Realistic Adversarial Examples for Business Processes using Variational Autoencoders)

田中専務拓海先生、最近うちの現場で「予測モデルがよそからの細工で誤作動する」って話を聞きまして、正直何が起きるのかピンと来ません。これって要するにデータをほんの少し変えて、モデルの予測を誤らせるということ?AIメンター拓海素晴らしい着眼点ですね!大まかにはおっしゃる通りです。機械学習の予

  • 論文研究

Layer Pruning with Consensus: レイヤー剪定のコンセンサス手法(Layer Pruning with Consensus)

田中専務拓海先生、お忙しいところすみません。最近部下から「レイヤー剪定という論文がいいらしい」と聞いたのですが、正直よく分かりません。要するに何が変わるのか簡単に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!簡潔に言うと、この論文は「同じ結果を出せる範囲で不要な『層(レイ

  • 論文研究

パッチベースの敵対的攻撃のロバストネスと転移性を調べる(Exploring the Robustness and Transferability of Patch-Based Adversarial Attacks in Quantized Neural Networks)

田中専務拓海先生、最近社内で「量子化したAIモデルでも攻撃を受ける」と聞いて不安です。要するに、性能を小さくしたモデルでも狙われやすいという話ですか?AIメンター拓海素晴らしい着眼点ですね!まず結論を先に言うと、量子化(Quantized Neural Networks, QNNs)(量

  • 論文研究

ブラックボックス敵対的攻撃のスケーリング則(Scaling Laws for Black-box Adversarial Attacks)

田中専務拓海さん、最近うちの若手が『スケーリング則』って論文の話をしてきたんですが、正直何が変わるのかよく分からなくて困ってます。要するに現場や投資にどう関係するんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫です、簡単に整理しますよ。結論を先に言うと、この研究は『少ない情報

  • 論文研究

拡散モデルにおけるランダムサンプリングによる敵対的浄化(Random Sampling for Diffusion-based Adversarial Purification)

田中専務拓海先生、最近、うちの部下が「拡散モデルを使った防御がすごいらしい」と言ってまして、困っているんです。要するに、悪意ある画像攻撃から守れるって話でしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、順を追って説明しますよ。今回の論文は拡散モデル(Denoising Diff

  • 論文研究

CantorNet:幾何学的・位相的複雑さ測定を試すサンドボックス(CANTORNET: A SANDBOX FOR TESTING GEOMETRICAL AND TOPOLOGICAL COMPLEXITY MEASURES)

田中専務拓海先生、最近部下から「複雑な決定境界」やら「位相的な指標」やら聞いて困っています。これって実際の経営判断で何を見ればいいんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、田中専務。結論から言うと、今回の論文は「人工ニューラルネットワークの決定境界の複雑さを意図的に作

  • 論文研究

ハイパーボリックネットワークに対する敵対的攻撃(Adversarial Attacks on Hyperbolic Networks)

田中専務拓海先生、最近うちの部下が「ハイパーボリック空間を使ったニューラルネットワークが良い」と言い出したのですが、正直ピンと来なくて。しかも「敵対的攻撃」に弱いとか聞いて混乱しています。要するにうちの製品に何か関係あるんでしょうか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に