Adversarial Attack

322
  • 論文研究

深層ニューラルネットワークのセキュリティ強化:Moving Target DefenseによるMTDeep (MTDeep: Boosting the Security of Deep Neural Nets Against Adversarial Attacks with Moving Target Defense)

田中専務拓海先生、最近部署で「敵対的攻撃が怖いので対策が必要だ」と言われまして。正直、何から手を付ければいいのか見当もつきません。これって本当にうちの現場に関係ある話ですか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。まず要点は三つです。1つ目、Deep Neu

  • 論文研究

深層方策に対する敵対的攻撃の掘り下げ(Delving into Adversarial Attacks on Deep Policies)

田中専務拓海先生、最近うちの現場でもAIの導入の話が出ていまして、部下からは「強化学習で自動化できます」と言われるんです。ただ、外部からの攻撃とかでおかしくなるって話も聞いて、正直どう評価して良いかわからないのです。AIメンター拓海素晴らしい着眼点ですね!大丈夫、重要な論文を一緒に見て、

  • 論文研究

生物学的着想による深層ネットワークの敵対的攻撃防御(Biologically inspired protection of deep networks from adversarial attacks)

田中専務拓海先生、最近部下から「敵対的サンプルに強いニューラルネットを使うべきだ」と言われて困っております。そもそも敵対的サンプルって我々の製造現場にどう関係するのでしょうか。AIメンター拓海素晴らしい着眼点ですね!敵対的サンプルは、画像のような入力に人が気づかない小さなノイズを加えると

  • 論文研究

意味的画像セグメンテーションに対する敵対的事例(Adversarial Examples for Semantic Image Segmentation)

田中専務拓海先生、最近うちの若手が「敵対的攻撃」って言葉をよく出すんですが、何を心配すべきなんでしょうか。要するにうちの製品に影響する話ですか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、難しく聞こえますが本質はシンプルです。敵対的攻撃とは「人の目にはほとんど分からない変更でAIの判

  • 論文研究

変調した画像でオートエンコーダを騙す手法(Adversarial Images for Variational Autoencoders)

田中専務拓海先生、最近部下が「敵対的攻撃(adversarial attack)がまた論文で話題です」と言うのですが、我々のような製造現場で本当に気にする必要はありますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、これは人が工場で扱うカメラ画像や検査データが意図せず誤動作するリスク

  • 論文研究

機械学習におけるセキュリティとプライバシーの科学(SoK: Towards the Science of Security and Privacy in Machine Learning)

田中専務拓海さん、最近社内で「機械学習の安全性とプライバシー」を調べろと言われまして。ぶっちゃけ何がそんなに問題なのか、経営判断に使えるように簡単に教えてくださいませ。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理していけば必ずできますよ。要点は三つで説明しますね。まず、機械

  • 論文研究

2D顔検出のスプーフィング(Spoofing 2D Face Detection: Machines See People Who Aren’t There)

田中専務拓海先生、最近部署で『顔認識の安全性』って話が出ましてね。正直、何を心配すればいいのか分からないのですが、今回の論文は何を言っているのですか。AIメンター拓海素晴らしい着眼点ですね!今回の論文は『人間には顔に見えない絵でも、機械の顔検出(face detection)をだませる』

  • 論文研究

敵対的攻撃に対する非ベイジアン学習の防御(Defending Non-Bayesian Learning against Adversarial Attacks)

田中専務拓海先生、お忙しいところ失礼します。部下に「ネットワークで学習させるならこの論文が重要だ」と言われまして、正直数字以外の理屈が苦手でして。要点だけ教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、要点は3つで整理できますよ。まずこの論文は、複数の“エージェント

  • 論文研究

実用的なブラックボックス攻撃 — Practical Black-Box Attacks against Machine Learning

田中専務拓海先生、最近、当社の若手が『クラウドの画像判定APIが攻撃される』って慌ててるんですが、本当にそんなことが起きるんでしょうか。うちみたいな老舗でも関係ある問題ですか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しますよ。結論を先に言うと、『外部からラベルだけ見える

  • 論文研究

多項式閾値関数の平均感度と雑音感度(Average Sensitivity and Noise Sensitivity of Polynomial Threshold Functions)

田中専務拓海先生、お疲れ様です。部下から『この論文を押さえておけ』と言われたのですが、正直タイトルを見てもピンと来ません。私、AIは名前だけ知っているレベルでして、まずは全体像をざっくり教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、簡単に整理しますよ。要は『ある種