少ないデータで訓練された深層前方伝播ネットワークの委員会

（Committees of Deep Feedforward Networks Trained with Few Data）

田中専務

拓海さん、この論文って何を一番変えたんでしょうか。うちみたいに学習用データが少ない現場でも使える技術があるなら知りたいのですが。

AIメンター拓海

素晴らしい着眼点ですね！この論文は「少ない学習データでも工夫次第で高精度を出せる」という可能性を示したんですよ。大丈夫、一緒に分解していけば必ず理解できますよ。

田中専務

具体的には、どんな工夫なんですか。画像の分類でよく聞くディープラーニングとは違うのですか。

AIメンター拓海

短く言うと「小さなネットワークを複数集めて投票させる」手法です。専門用語ではensemble（アンサンブル）と呼ばれるアプローチで、個々は浅めの畳み込みネットワークを使い、最後は単純な線形分類器で連携させますよ。

田中専務

これって要するに一つの大きな頭脳を作るより、得意分野の小さな班を複数置いて合議するということですか？

AIメンター拓海

まさにその通りです。ポイントを3つにまとめると、1) 単純な構成で過学習を抑える、2) 入力やパラメータを変えて多様性を作る、3) 最終的に単純なスコア合算で決定する、です。これなら現場でも導入しやすいですよ。

田中専務

現場への適用を考えると、データを増やす以外に何を準備すれば良いですか。コストが目に見えないと決めかねます。

AIメンター拓海

投資対効果の観点では、データ増やしが難しいならモデルの多様性を作ることに集中すると良いです。要点は三つ、1) データ拡張で既存画像を増やす、2) 複数の小さなネットワークを並列に用意する、3) 最後はシンプルな合算で結果を出す。これなら計算コストを抑えつつ精度向上を狙えますよ。

田中専務

なるほど。実務で言うと現場の写真を左右反転したり拡大縮小するのがデータ拡張ということですね。これなら現場の人でもできそうです。

AIメンター拓海

その理解で完璧です。加えて、個々のネットワークはすごく複雑である必要はなく、層を少なくして学習の安定性を上げる選択肢もあります。大丈夫、一緒に試験的に一セット作ってみましょうか。

田中専務

分かりました。では、最後に私の言葉で確認させてください。要するに、データが少なくても複数のシンプルなネットワークを用意して入力の見せ方を変え、成果を合算すれば性能が上がるということですね。これなら社内に説明できます。