AIBR プレミアム
拓海さん、この論文は一言で言うと何が新しいんですか。うちの現場でも使えることがあるなら、部下に説明できるように押さえたいんです。
素晴らしい着眼点ですね！要点は、「実際に使うアプリケーション（ここでは代表的なDNN）を踏まえて、ハードウェア設計の候補を自動で探す仕組み」を示した点です。大丈夫、一緒に見ていけば必ず理解できますよ。
設計候補を自動で探すって、つまり設計を全部コンピュータに任せるとでも。うちの工場だと投資対効果が一番心配で、無駄なハードを買いたくないんです。
その不安は的確です。論文は「全部任せる」ではなく、設計候補を評価するための枠組みを提示しています。具体的には三つの柱で動きますよ。1) 各演算の性能を予測するハードウェア解析モデル、2) その上で設計パラメータを多次元最適化問題として定式化すること、3) 解探索に遺伝的アルゴリズムを使うこと、です。これだけで現場の投資判断に役立つ候補が得られますよ。
これって要するに、うちが使うアプリケーションに合わせてハードをチューニングすれば同じ投資でより良い成果が出るということ？
その通りですよ。まさに「ターゲットの仕事に最適化した設計」を自動的に探す仕組みです。大事なポイントを三つだけ挙げると、1）アプリケーション特性を無視しない、2）解析モデルで候補を高速に評価する、3）複数のモデルをまとめて良い設計を選ぶ、です。これで無駄な投資を減らせますよ。
解析モデルと言われると難しそうですが、本当にうちの現場レベルでも意味がある結果が出るんでしょうか。現場の人は細かい設計パラメータを知らないんです。
心配いりませんよ。解析モデルは現場担当者が細かい回路設計を知らなくても扱えるように抽象化されています。言い換えれば、現場の要求（スループットや消費電力、コスト）を入力すると、候補のハード構成ごとに期待される性能を返してくれるんです。だから設備投資の比較が定量的にできますよ。
最適解を一つに絞らず複数のDNNをまとめて良い設計を選ぶというのは、どんな基準で決めるんですか。うちの業務は複数の機能を同時に走らせることが多いので気になります。
彼らは「代表的なDNNを複数選び、それら全体での幾何平均（geometric mean）で評価する」方法をとっています。要するに、特定の1つのモデルだけを改善するのではなく、幅広いモデルに対して総合的に良い性能を出す設計を選ぶということです。現場で複数ワークロードが混在する場合に有効ですよ。
なるほど。それで実際どれくらい効果が出たんですか。数値で示してもらえると現場で説明しやすいんですが。
良い質問ですね。論文の結果では、選んだ設計は個別に最適化された設計と比べて、代表的な8つのDNNに対して幾何平均で12.0%から117.9%の性能改善が得られています。つまり、複数ワークロードに対して全体的に性能を引き上げられるんです。投資効果を説明する材料になりますよ。
要するに、うちのように複数タスクを回す環境では、この枠組みを使えば同じ金額でより多くの仕事をこなせる可能性がある、と。分かりました。最後に私の言葉で要点をまとめますね。
素晴らしい着眼点ですね！ぜひお願いします、田中専務。言い直すことで理解が深まりますから。
はい。要するに、この論文は「うちが使う複数のAI処理を見越して、無駄なく投資できるハード設計の候補を自動で見つけ、全体の効率を上げられる枠組み」を示しているということですね。
