284487記事公開中

トレンドワード
  2. AIベンチマークリサーチ
  3. 論文研究
  4. デプロイメント段階における実用的なバックドア攻撃の脅威（Towards Practical Deployment-Stage Backdoor Attack on Deep Neural Networks）
2 分で読了
0 views

デプロイメント段階における実用的なバックドア攻撃の脅威

（Towards Practical Deployment-Stage Backdoor Attack on Deep Neural Networks）

さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか？

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として
一目置かれる存在に！

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか？

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、
あなたも生成AIマスター！

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題！誰1人置いていかずに寄り添います。

詳細を見る

田中専務

拓海先生、お時間をいただきありがとうございます。最近、部下から「モデルにバックドアが入ると危ない」と聞きまして、正直ピンと来ていません。要するに、訓練するときだけ心配すれば良い話ではないのですか。

AIメンター拓海

素晴らしい着眼点ですね！確かに多くの議論はモデルの開発・訓練段階に集中していますが、この論文は「導入後（デプロイメント段階）」でも危険があると示しているんです。大丈夫、一緒に整理しましょう。まず要点を三つでまとめますよ。1) 訓練後でも改変され得る、2) 実運用端末で感染する可能性、3) 検知が難しい、です。

田中専務

訓練後でもですか。それは現場の端末が攻撃されるということですか。社内のPCや組み込み機器にウイルスが入れば、モデルの振る舞いが変わってしまうと。

AIメンター拓海

その通りです。もっと噛み砕くと、通常のバックドア攻撃は

監修者

阪上雅昭（SAKAGAMI Masa-aki）
京都大学　人間・環境学研究科　名誉教授

論文研究シリーズ
前の記事
意味ある人間の制御：AIシステム開発のための実行可能な特性
(Meaningful human control: actionable properties for AI system development)
次の記事
行列とベクトルの積の近似に関する誤差境界
（Error Bounds for a Matrix-Vector Product Approximation with Deep ReLU Neural Networks）
関連記事
AI編集が生む偽りの記憶 — Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection
輪郭を順に描く画像セグメンテーション
（Outline Objects using Deep Reinforcement Learning）
単一画像からの3D人体姿勢の粗から細へのボリューメトリック予測
(Coarse-to-Fine Volumetric Prediction for Single-Image 3D Human Pose)
グラフィカル・レコード・リンケージの性能限界
（Performance Bounds for Graphical Record Linkage）
最大ロッタリーとしてのアライメント
（Jackpot! Alignment as a Maximal Lottery）
ツイッター凍結の予測と説明 — Russo-Ukrainian War: Prediction and explanation of Twitter suspension
この記事をシェア

有益な情報を同僚や仲間と共有しませんか？

AI技術革新 - 人気記事
ブラックホールと量子機械学習の対応
（Black hole/quantum machine learning correspondence）
  • 論文研究
生成AI検索における敏感なユーザークエリの分類と分析
（Taxonomy and Analysis of Sensitive User Queries in Generative AI Search System）
  • 論文研究
DiReDi：AIoTアプリケーションのための蒸留と逆蒸留
（DiReDi: Distillation and Reverse Distillation for AIoT Applications）
  • 論文研究

PCも苦手だった私が

“AIに詳しい人“
として一目置かれる存在に！
  • AIBRプレミアム
  • 実践型生成AI活用キャンプ
あなたにオススメのカテゴリ
論文研究
最新記事
ハードウェア志向のニューラルネットワーク訓練：AxTrainが示した近似実行への新しい道
（AxTrain: Hardware-Oriented Neural Network Training for Approximate Inference）
  • 論文研究
geomstatsによる機械学習向けリーマン幾何の実装基盤
（geomstats: a Python Package for Riemannian Geometry in Machine Learning）
  • 論文研究
深層エネルギー推定ネットワーク
（Deep Energy Estimator Networks）
  • 論文研究
Deep CNNの共同スパース化による汎用圧縮とデュアルドメイン展開
（Compression of Deep Convolutional Neural Networks under Joint Sparsity Constraints）
  • 論文研究
データ効率の高い階層型強化学習
（Data-Efficient Hierarchical Reinforcement Learning）
  • 論文研究
大規模プラズマモデリングにおける逆問題の不安定性
（Inverse Problem Instabilities in Large-Scale Plasma Modelling）
  • 論文研究
さらに深い洞察を得る

AI戦略の専門知識を身につけ、競争優位性を構築しませんか？

AIBR プレミアム
年間たったの9,800円で
“AIに詳しい人”として一目置かれる存在に！

プレミア会員になって、山ほどあるAI論文の中から効率よく大事な情報を手に入れ、まわりと圧倒的な差をつけませんか？

詳細を見る
【実践型】
生成AI活用キャンプ
【文部科学省認可】
満足度100%の生成AI講座
3ヶ月後には、あなたも生成AIマスター！

「学ぶ」だけではなく「使える」ように。
経営者からも圧倒的な人気を誇るBBT大学の講座では、3ヶ月間質問し放題！誰1人置いていかずに寄り添います。

詳細を見る

AI Benchmark Researchをもっと見る

今すぐ購読し、続きを読んで、すべてのアーカイブにアクセスしましょう。

続きを読む