Adversarial Attack

896
  • 論文研究

すべて同時に攪乱する:微分可能なグラフ攻撃の実現(Everything Perturbed All at Once: Enabling Differentiable Graph Attacks)

田中専務拓海先生、最近部下からグラフニューラルネットワークがどうのこうのと言われまして、何が問題なのかすらよく分からないのです。経営判断として押さえるべきポイントを教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!まず結論から申し上げますと、今回の研究はグラフ構造の小さな変化

  • 論文研究

拡散モデルの興味深い特性と自然な攻撃能力 — Intriguing Properties of Diffusion Models: An Empirical Study of the Natural Attack Capability in Text-to-Image Generative Models

田中専務拓海さん、最近話題の「拡散モデル」というやつがうちの現場にどんな影響を与えるのか、ざっくり教えてください。部下から導入を急かされてまして、何を基準に投資判断すればいいか悩んでいます。AIメンター拓海素晴らしい着眼点ですね!拡散モデルは画像生成で非常に高性能ですが、一方でセキュリテ

  • 論文研究

IoTベースのスマートグリッドに適用される機械学習手法の脆弱性(Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid)

田中専務拓海先生、お忙しいところ恐縮です。最近、部下から「スマートグリッドにAIを入れよう」と言われているのですが、投資対効果と安全性の両方が不安でして、そもそも何が危ないのか端的に教えていただけますか。AIメンター拓海素晴らしい着眼点ですね!要点だけ先にお伝えすると、この論文はスマート

  • 論文研究

大規模言語モデルに対する普遍的敵対的攻撃はなぜ効くのか:幾何学が答えかもしれない(Why do universal adversarial attacks work on large language models?: Geometry might be the answer)

田中専務拓海先生、最近部下から「大規模言語モデルに普遍的な敵対的攻撃がある」と言われまして、正直ピンと来ません。導入を進める懸念材料になるなら知っておきたいのですが、これは要するに何が問題なのでしょうか。AIメンター拓海素晴らしい着眼点ですね!まず簡単に言うと、普遍的敵対的攻撃とは「どん

  • 論文研究

整合された大規模言語モデルに対する基礎的防御(BASELINE DEFENSES FOR ADVERSARIAL ATTACKS AGAINST ALIGNED LANGUAGE MODELS)

田中専務拓海先生、最近うちの部下が『AIに攻撃される可能性がある』って言い出して、正直ピンと来ません。論文があるそうですが、これって要するに何が問題なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫ですよ。端的に言うと、最新の大規模言語モデル(Large Language M

  • 論文研究

テンソル分解による頑健な敵対的防御(Robust Adversarial Defense by Tensor Factorization)

田中専務拓海先生、最近、うちの若手が「AIは攻撃されやすいので対策が必要です」と言ってきて、正直怖くなりました。論文で“テンソル分解で守る”というのを見かけたのですが、そもそも何が違うのか教えていただけますか?AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。まず要点

  • 論文研究

マルウェアDNA:マルウェア、マルウェアファミリー、未知マルウェアの同時分類(MalwareDNA: Simultaneous Classification of Malware, Malware Families, and Novel Malware)

田中専務拓海先生、最近部下から『新しいマルウェアが出ています』って聞いて、正直不安になっているんです。うちの現場でも被害が出たら困るし、AIでなんとかならないものですか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理しましょう。今回話す論文は、検出(malware detec

  • 論文研究

ゼロ知識下におけるMLベースAndroidマルウェア検出への効率的クエリベース攻撃(Efficient Query-Based Attack against ML-Based Android Malware Detection under Zero Knowledge Setting)

田中専務拓海先生、最近うちの若手が「マルウェア対策にAIを使えば安心」って言うんですが、逆にそのAIを狙った攻撃の話を聞いて不安になりまして。論文で何か新しい手口が出たと聞いたのですが、経営的にはどれだけ深刻な話なんでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、一緒に整理し

  • 論文研究

RobustEdge:低消費電力エッジ向け敵対的検出(RobustEdge: Low Power Adversarial Detection for Cloud-Edge Systems)

田中専務拓海先生、最近部下から「エッジで敵対的攻撃を検出したい」と言われましてね。クラウドに送る前に判断できると聞くと、通信コストやリスクが下がる気がしますが、本当に現実的なのでしょうか。AIメンター拓海素晴らしい着眼点ですね!大丈夫、エッジでの検出は可能で、やり方次第でエネルギーと通信