AIBR プレミアム
拓海先生、お忙しいところすみません。部下から「転移学習を使えばうちの画像データでもAIが早く作れる」と言われたのですが、実際どれだけデータを用意すれば効果が出るのか見当がつかず困っております。投資対効果の観点で教えていただけますか。
素晴らしい着眼点ですね！大丈夫、一緒に整理していきましょう。結論を先に言うと、データは多いほど有利で、性能はデータ量の対数（log）にほぼ線形で改善しますよ。要点は三つ、データ量、ソースとターゲットの類似度、そして微調整（ファインチューニング）か特徴抽出かの選択です。
なるほど、でも「対数で改善する」と言われてもピンと来ません。簡単に例で教えてもらえますか。現場は小さなデータしかないのですが、それでも意味がありますか。
いい質問です。対数で改善するというのは、データを二倍にしても性能は一定量しか伸びないが、継続して増やせば確実に伸びるという意味です。身近な比喩で言えば、売上を上げるための広告費が最初は効率良く効くが、投下を続けると一回当たりの効果は減るという感覚に似ていますよ。
なるほど。で、ソースとターゲットの類似度というのは具体的にどういう意味でしょうか。社内の写真と一般の画像データでは違うのではないかと心配しています。
ご心配はもっともです。ここで言う類似度は、元にしたモデル（ソース）が学んだデータ分布と、あなたが扱うデータ（ターゲット）の分布がどれだけ似ているかという意味です。例えば自然風景で学んだモデルを薄板の検査写真に使うのは似ていない例で、その場合はより多くのターゲットデータとファインチューニングが必要になりますよ。
これって要するに、ソースとターゲットが似ていれば少ないデータで済むけれど、違えば大量にデータを用意するか、しっかり手を加える必要があるということですか？
その理解で合っていますよ。要するに三つのポイントです。第一にデータは増やすほど良い。第二にソースとターゲットが乖離すると追加データがより重要になる。第三に、類似度が低い場合はファインチューニング（モデルの一部を再学習させること）が特徴抽出より有利になる、ということです。
ファインチューニングと特徴抽出の違いも、現場に説明できるよう簡単に教えてください。コストや工数の違いも気になります。
良い質問です。簡潔に言えば、特徴抽出（feature extraction）は既存モデルの中間出力を特徴として使い、最後の分類器だけを学習する方法で工数は少なめです。ファインチューニング（fine-tuning）はモデルの一部または全部を再学習させるため精度向上の余地が大きい反面、計算コストと専門知識が必要になります。実務では類似データが少ない場合は投資が見合えばファインチューニングを優先しますよ。
分かりました。ではまず小さく試して効果を確かめ、それからデータ収集に投資する判断をする、という流れでよろしいですね。ありがとうございます、拓海先生。
素晴らしい方針ですよ。短期で試作→性能のログ的改善を見て意思決定、という流れが現実的です。何かあればまた一緒に手順を作りましょう。必ずやれますよ。
では私の言葉でまとめます。要は「データを増やすほど良い。元のモデルと似ていれば少量で済むし、違えば追加データとしっかりした調整が必要」で合っていますね。これで現場に説明します。
