AIBR プレミアム
拓海先生、お疲れ様です。最近、部下から「システムプロンプトで振る舞いを決めるべきだ」と言われたのですが、正直ピンと来ません。これって要するに現場でAIにやらせるルールをあらかじめ決めておくということですか？
素晴らしい着眼点ですね！その通りです。簡単に言うと、システムプロンプトとは「AIに与える取り扱い説明書」のようなもので、開発者が望む振る舞いを事前に定めるものですよ。
なるほど。ただ、うちが導入するAIは外部のオープンソースモデルを使うつもりでして、それらはユーザーの指示には従うけれど、開発者が細かく決めたルールを守らないことがあると聞きました。本当に制御できるのでしょうか。
大丈夫、できるんです。ポイントは三つ。第一に、モデルに「ルールを守ること自体」を学習させる仕組みを用意すること、第二に、その仕組みを大規模に自動生成して多様な場面で学習させること、第三に、守れているかを評価する基準を用意することです。
三つですね。で、具体的に我々が手を出す部分はどこになりますか。投資対効果をしっかり見たいので、どれくらい工数やコストがかかるのか教えてください。
投資対効果の観点でも安心できるやり方です。要点は三つに集約できます。第一に、既存の指示データ（Instruction fine-tuning: IFT 指示微調整）を活用してルールデータを自動生成するため、ゼロから人手でラベルを作るよりも低コストで済むこと。第二に、自動生成の品質を人が抜き取りで検査できるため人手の比率を低く抑えられること。第三に、評価基準を用意すれば導入前に期待値を見積もれることです。
自動生成というのは、要するに既にある「ユーザー指示」を別の形に変えて「ルール」を作るってことですか。つまりデータの流用でコストを下げるわけですか？
まさにその通りです。具体的には既存のIFTデータをもとに、モデルが従うべき役割(role)や細かい規則(rule)を自動で作成し、それに沿った応答をペアで用意して学習させます。こうすることで、モデルは開発者が期待する「立場」「振る舞い」「制約」を理解しやすくなるんです。
なるほど。ですが自動生成だと質がばらつきそうで怖いです。現場で誤った振る舞いをされたら信用問題になります。品質管理はどうするのですか。
重要な懸念ですね。ここも三点です。まず自動生成したデータを人が抜き取りでレビューする工程を組み込むこと、次に評価用ベンチマークを用意して客観的にチェックすること、最後に評価も自動化して人間の判断と高い合意を得られる指標を作ることです。こうして信用できる品質担保を実現できますよ。
評価用ベンチマークという単語が出ましたが、現場に合わせた評価って作れますか。うちの業務は特殊なので、汎用指標だと意味がないことが心配です。
現場適合性は絶対に必要です。方法としては、まず業務で重視するルール群を抽出して、それをベンチマーク化します。次に自動評価と人によるサンプリング評価を組み合わせて合意度を計測すれば、貴社固有の指標として運用可能です。
承知しました。最後に一つ確認です。要するに、既存の学習データを活用して「ルール付きデータ」を自動生成し、それで微調整すればモデルが開発者定義の立場や細かい規則にも従うようになる、という理解で間違いありませんか。
はい、その理解で正しいです。まとめると三点。既存データを活用して低コストに多様な役割と規則を生成すること、自動評価と人のレビューで品質を担保すること、そして評価指標を用意して導入前に期待値を見積もることです。大丈夫、一緒にやれば必ずできますよ。
分かりました。ありがとうございます。では私の言葉で整理します。既存の指示データを元に役割と規則を自動で作り、それでモデルを訓練し、評価で守れているかチェックしてから導入するという手順で進める、ということですね。
