Adversarial Attack

550
  • 論文研究

アンサンブル型敵対的防御の理解と改善(Understanding and Improving Ensemble Adversarial Defense)

田中専務拓海先生、最近うちの若手が『アンサンブル防御』って話を持ってきて、導入すべきか迷っているんです。簡単に要点を教えてくださいませんか。AIメンター拓海素晴らしい着眼点ですね!まず結論を一言でお伝えしますと、この論文は「複数のモデルを組み合わせると単体より頑健になり得る理由」を理論的

  • 論文研究

決定ベースのブラックボックス攻撃を勾配事前知識で強化する(Boosting Decision-Based Black-Box Adversarial Attack with Gradient Priors)

田中専務拓海先生、お忙しいところすみません。最近、部下から「敵対的攻撃(adversarial attack)対策を考えろ」と言われて、正直何を議論すれば良いか見当もつきません。決定ベースのブラックボックス攻撃って、要するにどんな問題なんでしょうか。AIメンター拓海素晴らしい着眼点ですね

  • 論文研究

テスト時適応による言語モデルの堅牢化(ROBUSTIFYING LANGUAGE MODELS WITH TEST-TIME ADAPTATION)

田中専務拓海先生、お時間よろしいですか。部下から『うちのシステムにAIを入れるべきだ』と言われて困ってまして、特に『攻撃』とか『堅牢性』とか聞くと何が問題なのか掴めません。要するにどこが危ないんですか?AIメンター拓海素晴らしい着眼点ですね!簡単に言うと、人間には意味が通じる文でも、AI

  • 論文研究

視覚モデルの盲点の幾何学を探る(Exploring Geometry of Blind Spots in Vision Models)

田中専務拓海さん、お忙しいところ恐縮です。最近、部下から『モデルには盲点がある』と言われて、現場で何が起きるかピンと来ないのです。要するに、我々の製品を判定する仕組みが“見落とす”ことがあるとでもいうんですか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理していきますよ。簡単

  • 論文研究

Vision Transformerの堅牢性を高める単純な動的走査拡張(Improving Robustness for Vision Transformer with a Simple Dynamic Scanning Augmentation)

田中専務拓海先生、最近「Vision Transformer(ViT)」という話をよく聞きますが、当社が投資する価値はありますか。外部からは「性能は良いが壊れやすい」と聞いておりまして、そこをどうするかが気になります。AIメンター拓海素晴らしい着眼点ですね!Vision Transfor

  • 論文研究

複数エージェントシステムの最適コスト制約下敵対的攻撃 (OPTIMAL COST CONSTRAINED ADVERSARIAL ATTACKS FOR MULTIPLE AGENT SYSTEMS)

田中専務拓海先生、お忙しいところ恐縮です。最近表題のような論文を耳にしましたが、要するに我々のような会社に関係ありますか。攻撃だの予算だのと聞くと身構えてしまいます。AIメンター拓海素晴らしい着眼点ですね!大丈夫です、攻撃という言葉は専門分野の語であり、本質を押さえれば経営判断に直結する

  • 論文研究

協調型マルチエージェント・バンディットに対する敵対的攻撃(Adversarial Attacks on Cooperative Multi-agent Bandits)

田中専務拓海先生、最近社員から「協調するAI」について話が出てきておりまして、何やらグループで学習するような仕組みがあると聞きました。うちのような現場でも使えるものか、まず全体像を噛み砕いて教えてくださいませんか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、簡単に整理しますよ。まず今

  • 論文研究

親しさに基づくオープンセット認識の敵対的攻撃下での脆弱性(Familiarity-Based Open-Set Recognition Under Adversarial Attacks)

田中専務拓海先生、最近部下が「オープンセット認識が重要です」と言うのですが、正直ピンと来ません。実務でどこまで気にすべき話でしょうか。AIメンター拓海素晴らしい着眼点ですね!オープンセット認識(Open-set recognition、OSR)とは、学習時に見ていない新しいカテゴリを現場

  • 論文研究

宇宙ランデブー用深層学習相対姿勢推定に対する敵対的攻撃検出の堅牢化(Robust Adversarial Attacks Detection for Deep Learning based Relative Pose Estimation for Space Rendezvous)

田中専務拓海先生、最近うちの若い現場から「宇宙関係のAI技術が進んでいる」と聞きまして、ただ正直何を気にすればいいのか分からないんです。要は、導入して本当に安全で費用対効果が出るのか教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、まず結論だけ申し上げますと、この論文

  • 論文研究

学習された言語構造の大域最適化を敵対的訓練で実現する(Learning Globally Optimized Language Structure via Adversarial Training)

田中専務拓海先生、お忙しいところすみません。先日部下にこの論文の話を振られて、正直ピンと来なかったのです。要するに我々が現場で使える目に見える改善点って何でしょうか。AIメンター拓海素晴らしい着眼点ですね!今回の論文は、テキスト生成モデルの「品質」と「暴発」(不要な出力)を減らすために、