拓海先生、最近部下に「低資源言語でもAIで品詞タグ付けが作れる」と言われまして、正直ピンと来ないのです。要はありもので何とかなる話ですか？
\n
\n
素晴らしい着眼点ですね！大丈夫です、要点は3つで説明できますよ。まず、深層学習(Deep Learning)を使わなくても、データが少ない環境では有効な手法があり得ること、次に学習曲線(Learning Curves)で早期に見切りをつける方法があること、最後にモデル選択(Model Selection)を慎重に行えば現場投入までのコストを抑えられることです。
\n
\n
なるほど。しかし現場の負担や投資対効果を考えると、データが少ないのにディープラーニングを無理に使うのは無駄が多いとも聞きます。それって要するに、少ないデータなら軽めの手法で経営判断に合う精度を早く確かめるということですか？
\n
\n
その通りです！素晴らしい整理です。少ないデータで深層学習を回すと計算コストとチューニング工数が跳ね上がり、期待される利益に見合わなくなるのですよ。要点を3つにまとめると、1）軽量モデルでも十分な場合がある、2）学習曲線で早期に見切りをつければ試行回数を減らせる、3）実務ではモデル選択と停止基準(stopping criteria)が重要になる、です。
\n
\n
停止基準という言葉が気になります。具体的に言うと現場ではどう判断すれば良いのでしょうか、目に見える指標がほしいのですが。
\n
\n
良い質問です！停止基準とは学習曲線を見てこれ以上データを増やしても精度が見合わないと判断するルールのことです。たとえば追加で1時間のアノテーションをしても精度が0.1ポイントしか上がらないなら投資を止める、といったシンプルな基準が現場では有効です。
\n
\n
それは現実的ですね。では具体的な手法、つまりどんな非ディープ学習のモデルを試せば良いのかも教えてください。精度と現場の手間を秤にかけたいのです。
\n
\n
具体例としては、隠れマルコフモデル(Hidden Markov Model; HMM)や最大エントロピーモデル(Maximum Entropy Model; MEM)、条件付き確率場(Conditional Random Fields; CRF)に近いアルゴリズム、および決定木や平均パーセプトロン、サポートベクターマシン(SVM; Support Vector Machine)などが候補です。これらは学習データ量が少ない場合でも学習が安定し、解釈性が高い利点があります。
\n
\n
つまり、まずは計算コストとアノテーションコストが低い手法で試し、学習曲線で伸びが見られなければそこで止める、と。これなら経営判断もしやすいです。
\n
\n
はい、その整理で完璧です。最後に実務で使える要点を3つだけ。1）まずは軽量モデルでプロトタイプを作る、2）学習曲線を可視化して費用対効果を定量化する、3）モデル選択と停止基準を文書化して意思決定プロセスに組み込む。大丈夫、一緒にやれば必ずできますよ。
\n
\n
分かりました。では私の言葉で整理しますと、少ないデータ環境ではまず計算と注釈の手間が少ない非ディープ手法で試作し、学習曲線で伸びが鈍化したらそこで見切りをつける、そしてその判断基準を経営判断に使えるように数値化しておく、ということで宜しいですね。
\n
