AIBR プレミアム
拓海先生、最近“LLM”とか“継続的事前学習”って話が社内で出てきましてね。現場からは「最新の知識を持ったAIを早く入れろ」と言われているのですが、どこから手を付ければよいのか見当がつきません。そもそも、どれが重要なんでしょうか。
素晴らしい着眼点ですね！大丈夫、一緒に整理すれば必ずできますよ。結論から言うと、最新知識を取り込む継続的事前学習（Continuous Pre-Training; CPT）と、ユーザーの指示に従う力を強める指示微調整（Instruction Fine-Tuning; IFT）は両方とも重要ですが、どこを更新するかでコストと効果が大きく変わるんです。
それは要するに、どのモデルに継続学習させるかで運用コストと性能が変わるということですか。うちのように予算が限られている会社は、どのやり方が現実的でしょうか。
素晴らしい着眼点ですね！ポイントは3つです。1つ目に、ベースモデル（Base LLM）に継続学習を行うと最新知識が入りやすいこと、2つ目に、指示微調整済みモデル（Instruction-refined LLM）は指示に従う力を持つが継続学習でその力を失うことがあること、3つ目に、指示微調整は手間と注釈データが必要でコストが高いことです。投資対効果を考えるなら、まずベースモデルを更新し、その後必要に応じて選択的に指示微調整する戦略が実用的ですよ。
なるほど。で、指示に従う力を失うというのは具体的にどういう現象ですか。例えば、以前はきちんと業務手順に沿って答えてくれたのに、更新後に変な答えを返すということがあるのですか。
その通りです。継続的事前学習（CPT）は新しいデータを取り込むが、過去に学んだ“指示に従うやり方”が薄れることがあるんです。これは機械学習で言う「忘却（catastrophic forgetting）」に似ていて、重要な行動方針が更新で上書きされるためです。だから指示能力を維持したいなら、再び指示微調整（IFT）をかけるか、別の手段で指示能力を保つ工夫が必要になるんです。
指示微調整には注釈データが大量に必要だと聞きまして、うちでやるのは現実的ではない気がします。これって要するに、最新情報を入れるには大金がかかるということですか。
素晴らしい着眼点ですね！完全にその通りではありません。指示微調整（IFT）は確かに注釈付きデータを多く使うと高精度になるが、研究では必ずしも大量のIFTが常に必要ではないことが示されています。具体的には、ベースモデルをまず継続学習で最新化してから、限られた注釈で再び指示適合させるとコスト効率が良いという結果があるんです。つまり段階的にリソースを配分すれば現実的に導入できるんですよ。
なるほど。うちの場合はまずは社内の製造ノウハウや製品情報を新しく反映させたいのですが、その際にどのくらいの頻度で更新すればいいとか、手順としてどう進めれば投資対効果が出やすいのでしょうか。
素晴らしい着眼点ですね！順序としては三段階を勧めます。第一に、ベースモデルに対して定期的な継続的事前学習（CPT）を実施して最新知識を注入すること。第二に、その結果を検証する小規模な業務テストを実施し、指示能力が低下していないかを確認すること。第三に、実業務で必要な部分だけ選んで限定的に指示微調整（IFT）を実施すること。これで費用を抑えつつ実効性を高められるんです。
要するに、まずはベースを更新して様子を見て、使えるところだけに限定して追加投資する段取りにすれば無駄が少ないということですね。よく分かりました。では最後に、今日の話を私の言葉でまとめさせてください。
大丈夫、素晴らしい総括になりますよ。一緒に構えていけば、必ず実行できますよ。
本日の要点はこうです。まずはベースの大規模言語モデル（Large Language Model; LLM）を継続的事前学習で最新化し、コストを抑えながら知識を更新する。次に、現場での挙動を小さく検証してから、必要な部分だけ指示微調整（Instruction Fine-Tuning; IFT）を行う。この段取りであれば投資対効果が見える形で進められる、という理解でよろしいでしょうか。
素晴らしい着眼点ですね！まさにそのとおりです。田中専務のまとめはそのまま会議でも使えるレベルです。大丈夫、一緒にやれば必ずできますよ。
