Adversarial Attack

1116
  • 論文研究

層は等しくないのか(Are All Layers Created Equal?)

田中専務拓海さん、最近部下から「層ごとの重要性が違う」という論文を見せられて困っています。うちの現場で何を変えればよいのか、結局どういう話なのか端的に教えてくださいませんか。AIメンター拓海素晴らしい着眼点ですね!大丈夫です、簡潔に言うと「ニューラルネットワークの各層は同じ働きをしている

  • 論文研究

学習ベクトル量子化モデルの敵対的攻撃に対する堅牢性(Robustness of Generalized Learning Vector Quantization Models against Adversarial Attacks)

田中専務拓海先生、お時間いただき恐縮です。最近、部下から『敵対的攻撃に強いモデルを導入すべきだ』と言われまして、どこから手をつければ良いのかわからない状況です。今回の論文はそのあたりに関係しますか。AIメンター拓海素晴らしい着眼点ですね!今回の論文は、プロトタイプベースの学習法である学習

  • 論文研究

Shieldの有効性評価:異なる脅威モデル下での検証(The Efficacy of Shield under Different Threat Models)

田中専務拓海先生、部下が「Shieldって論文を読め」と言うのですが、正直よくわからないのです。投資対効果の観点で実務に役立つのか、端的に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!Shieldは画像分類モデルに対する圧縮ベースの防御手法です。結論を先に言うと、万能では

  • 論文研究

画像変換に対する不変性を用いた自然誤分類と敵対的誤分類の検出(Natural and Adversarial Error Detection using Invariance to Image Transformations)

田中専務拓海先生、お忙しいところ恐縮です。うちの現場でAIの精度に疑問が出ていまして、これって投資に見合うのか見極めたいのですが、今取り上げるべき論文はありますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、今回は「誤分類を見つける」ための実用的で再現性の高い手法を扱った論文を一緒に

  • 論文研究

環境を操作する自己回帰モデルへの最適攻撃(Optimal Attack against Autoregressive Models by Manipulating the Environment)

田中専務拓海さん、この論文って要するに何を示しているんでしょうか。うちの需要予測にも関係あると聞いて、部下がざわついています。AIメンター拓海素晴らしい着眼点ですね!大丈夫、順を追って説明しますよ。結論だけ先に言うと、この論文は「外部環境をわずかに変えるだけで、将来の自動予測(自己回帰モ

  • 論文研究

敵対的攻撃に対して理論的耐性を持つ新しいニューラルネットワーク族(A New Family of Neural Networks Provably Resistant to Adversarial Attacks)

田中専務拓海先生、最近部下が『敵対的攻撃に強いネットワークがあるらしい』と言い始めて困ってます。要するにうちの製品に入れて安全性が上がるんですか?AIメンター拓海素晴らしい着眼点ですね!一言で言えば『一部のニューラルネットワーク構成を変えることで、入力のわずかな妨害で誤判断しにくくできる

  • 論文研究

信頼できるスマート道路標識の設計(Reliable Smart Road Signs)

田中専務拓海先生、最近現場から「標識をスマート化する話」が出ているのですが、正直私にはイメージが湧きません。これって何が変わるんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、簡単にお話しますよ。要点は三つです。まず、標識がただ見た目の表示だけでなく、車が読み取るための「スマ

  • 論文研究

リソース効率的な判定ベース不可視攻撃(RED-Attack: Resource Efficient Decision-based Imperceptible Attack for Machine Learning)

田中専務拓海さん、最近部下が「攻撃に強いAIが必要だ」と言い出して困っています。そもそも論文にある“攻撃”って会社の事業に関係ある話でしょうか。AIメンター拓海素晴らしい着眼点ですね!攻撃(adversarial attack)は、我々が使うAIが誤動作するように入力をこっそり変える技術

  • 論文研究

モバイルIoT機器におけるバイオ特徴量を用いた認証と認可(Authentication and Authorization for Mobile IoT Devices using Bio-features: Recent Advances and Future Trends)

田中専務拓海先生、最近うちの現場でも「生体認証(バイオ特徴量)を入れるべきだ」と若手が言ってきまして、正直どこから手を付けていいか分かりません。まずこの論文で何が一番価値ある発見なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!要点は三つありますよ。まず、この論文はモバイルIoT機

  • 論文研究

群進化に基づくブラックボックス攻撃の実像(A BLACK-BOX ATTACK ON NEURAL NETWORKS BASED ON SWARM EVOLUTIONARY ALGORITHM)

概要と位置づけ結論を先に述べると、この研究は「内部構造を知らなくてもニューラルネットワークを誤分類させうる実用的な攻撃手法」を示した点で重要である。従来、攻撃手法の多くはモデルの詳細や勾配情報を必要としていたが、本研究は群進化アルゴリズムを用いることでその制約を取り払い、より汎用的かつランダム性