AIBR プレミアム
拓海先生、お時間よろしいでしょうか。最近、部下から「AIの安全性評価をきちんとやれ」と言われて困っております。正直、何をどう測ればいいのか見当がつかず、投資効果の説明もできていません。まずは要点だけでいいのですが、どこから手を付ければよいでしょうか。
素晴らしい着眼点ですね、田中専務！短く言うと「測れないものは管理できない」ので、まずは何をどの方法で測るかの体系を作ることが投資対効果を示す第一歩ですよ。大丈夫、一緒にやれば必ずできますよ。
そうですか。それで、具体的にはどんな指標や試験があるのか、現場で実施できるものを教えてください。たとえば、外部に頼むと高いし、社内でできることをまず示したいのです。
いい質問です。要点は三つにまとめられます。第一にモデルの能力（capability、能力）を限界まで測ること、第二にモデルの既定の振る舞い（propensity、傾向）を観察すること、第三に制御・対策が効くかを試すことです。身近な例で言えば、車の耐久試験と運転者の癖を同時に見るようなイメージですよ。
なるほど。要するに「能力を限界まで試す」「日常のクセを見る」「対策が効くか確かめる」の三本柱ということですね。これって要するに、安全性を数値や試験で担保するということですか？
その通りです。端的に言うと、安全性評価とは「能力（capability）」「傾向（propensity）」「制御可能性（control）」の三つを、適切な方法で測り、結果を根拠に判断する作業です。専門用語は後で丁寧に説明しますから安心してくださいね。
現場でやる場合、赤チーム（red teaming）とかリスク評価と聞きますが、それらは我々でも実行可能でしょうか。外注する場合の優先順位も教えてください。
可能です。まず社内でできるのはベンチマーク（benchmark、評価基準）やシナリオ試験、簡易的な赤チームテスト（red teaming、赤チームテスト）です。外注はモデルの内部解析や大規模な攻撃シミュレーションを依頼する際に優先します。投資対効果を示すため、初期は低コストで再現性のある試験から始めましょう。
わかりました。最後に、私が部下に説明するときに使える短いまとめをお願いします。投資を説得するために、要点を三つで示してもらえますか。
もちろんです。要点は三つです。一、能力を測ることで未知のリスクを早期発見できる。二、日常の傾向を把握することで運用リスクを低減できる。三、制御性を試すことでデプロイの是非を定量的に判断できる。これだけで会議の説明は十分です。
ありがとうございます。では、私の言葉でまとめます。『まずは測定の体系を作り、能力と傾向と制御性を順に評価してから、投資や公開判断を行う』ということですね。これなら部下にも説明できます。助かりました。
