AIBR プレミアム
拓海先生、最近部署で『ネットワークでAIを動かす』って話が出ましてね。正直、私にはイメージが掴めなくて。これって要するに現場の通信機器の中でAIを動かして、すぐに判定や分析ができるようにするということですか？投資対効果が気になります。
素晴らしい着眼点ですね！その理解はほぼ正しいですよ。要点を三つに分けましょう。1）通信の流れをつかんでリアルタイムにデータを取り出すこと、2）取り出したデータを機械学習モデルが理解できる形に変換すること、3）変換したデータで即座に予測・判定をすることです。これらが一体化した仕組みが論文の狙いなんです。
なるほど。実運用だとパケットが大量に流れてきますよね。論文ではどれくらいの速度で処理できると言っているのですか。現場で使える性能かどうかが気になります。
そこが実務寄りの良い点です。論文の実装はライブトラフィックで60Gbps以上の取り込みを試験しています。要点を三つで整理します。1）高速なキャプチャ機構でネットワークから生データを取り込む、2）取り込んだパケットを意味のある”タプル”に変換するパイプラインを用意する、3）変換済みデータに対して即時にモデル推論を行う、という流れです。つまり速度面の設計が最初から考慮されていますよ。
それは安心ですが、AIモデルって普通はデータセンターで学習してから結果を出すものではないですか。それを現場でどうやって使うのですか、学習と推論は別という理解でいいですか。
とてもいい質問です。概念はその通りで、一般に学習（training）と推論（inference）は分けて考えます。ただしこの論文は二つの運用モードを想定しています。要点を三つで示すと、1）学習はGPUを用いて行い、高速化ライブラリを利用する、2）推論は学習済みモデルをネットワーク側で取り込んでリアルタイム適用する、3）学習はオフライン／オンライン両方を想定して再学習も可能にする、です。つまり学習は集中して、推論は分散して行う運用設計です。
これって要するに、重い学習はクラウドや専用機でやって、現場の通信装置は軽い判定だけやるってことでしょうか。だとすれば導入コストは抑えられそうですが、現場の装置にそれなりの機能が必要ですよね。
その理解で正しいです。実装のキモは“データを使いやすいかたちに変換するパイプライン”にあります。要点を三つでまとめると、1）パケットをそのまま扱うのではなく、解析に適したタプル列に変換する、2）タプル列を入力にしてニューラルネットワークで表現学習を行う、3）その表現で快速に分類やプロファイリングを行う、です。つまり現場では軽量な前処理と推論が動けば十分なことが多いのです。
実際の成果はどう示しているのですか。うちの現場でも“ただ速い”だけでなく“当たる”かが重要でして、精度の検証が見えないとうちの役員会は納得しません。
良い視点です。論文では実ネットワークのトレースを使ってユーザープロファイリングのケースを評価しています。要点を三つで言うと、1）従来のベースライン手法と比較して精度が高いこと、2）ラインレートで動作する中でも計算時間が短く実用的であること、3）GPUアクセラレーションなどでスケールできること、を示しています。要するに『速くて当たる』という点を実データで確認しているわけです。
先生、ありがとうございます。私の理解でまとめますと、1）重い学習は専用環境で行い、2）ネットワーク側で高速にデータを拾って軽い前処理を行い、3）学習済みモデルで即時判定することで現場で意味のあるAIが動かせる、ということですね。これなら投資対効果の説明ができそうです。
