AIBR プレミアム
拓海先生、最近部下に「時系列データの異常検知にAIを入れろ」と言われて困っているのですが、先日関係者が持ってきた論文の話を聞いておいた方がよいですか。
素晴らしい着眼点ですね！その論文は「One-Classの時系列異常検知モデルに対するバックドア攻撃」を扱っていますよ。要点をまず3つに分けて説明しますね。問題定義、攻撃の設計、実験での効果検証です。大丈夫、一緒に見れば理解できますよ。
バックドア攻撃というと、外部からシステムに穴を開ける話ですよね。うちの現場だと「異常を見逃す」ようにする攻撃と聞きましたが、どのくらい深刻なのでしょうか。
良い質問ですよ。ここではまず「Backdoor attack（バックドア攻撃）」が狙うのは学習済みモデルの挙動を特定条件でそらすことだと考えてください。普通の運用では検出されない小さな合図、つまりトリガーを入れたときだけ誤った判定をさせる攻撃です。実務上は見逃しや誤警報と同等のリスクですから要注意できるんです。
この論文は「one-class（ワンクラス）」「時系列」のモデルを標的にしていると聞きました。うちも装置のセンサーデータを時系列で見ていますが、特別な対策が必要ですか。
素晴らしい着眼点ですね！この論文が狙うのは、正常データだけで学習する「One-Class Sequential Anomaly Detection（ワンクラス時系列異常検知）」モデルです。攻撃者は正常データに微小な変化を混ぜ、学習段階でその合図を“正常”として覚え込ませます。結論的には、データの管理と学習時の監査が重要になりますよ。
これって要するに、学習データにこっそり変なサンプルを混ぜられると、実運用で異常を見逃すようになるということですか？
その通りですよ。素晴らしい着眼点ですね！要点を簡潔に言うと、1) トリガーは目立たない微小な摂動として作られる、2) 学習時にその摂動を含むサンプルが正常として学ばれる、3) 実運用で同じ摂動があると異常が正常と判定される、という流れです。投資対効果の観点では、データ管理の追加投資でリスクを大きく下げられる可能性が高いです。
実際にどのモデルが狙われやすいのですか。例えばDeep SVDDという名前を部下が言っていましたが、よく分かりません。
