AIBR プレミアム
拓海先生、最近部署で『LLMが詐欺に弱い』って話が出てきましてね。これはうちがAIを顧客対応に使う前に知っておくべき話でしょうか？
素晴らしい着眼点ですね！大丈夫、一緒に整理していけばリスクも導入方針も見えてきますよ。要点は3つです：何が『詐欺』かを定義すること、代表的LLMの反応を比べること、人格や説得テクニックで結果が変わる点を理解することですよ。
なるほど。で、具体的にどのモデルを比べたんですか？ウチで聞いたのはGPTとかLlamaとか、その辺りの話です。
はい、そこは押さえていますよ。代表的なプロプライエタリ（GPT-3.5、GPT-4）とオープンソース（Llama-2）を比較しています。要は市販のものと公開されているものの『素の反応』を比べる実験です。
で、『詐欺』って言っても色々あるでしょう。うちは金融関係でもないし、顧客対応でどれだけ怖がればいいんでしょうか。
良い質問です。研究ではFINRAの分類を使って37種類の代表的な詐欺シナリオを用意しています。金融向けの分類ですが、そこに含まれる原理は一般顧客対応にも当てはまるため、業種を問わず参考になる点が多いんです。
これって要するに『いろんな手口を試して、AIがどこで間違いやすいかを洗い出した』ということですか？
その通りです！素晴らしい着眼点ですね。加えて人格（persona）や説得技術（Cialdiniの6原則）を意図的に使って、AIがどの程度影響を受けるかも測っています。結論はモデルごとに弱点の『型』が違うという点です。
なるほど。では実務としては、どこに気を付ければいいですか。投資対効果の観点で優先順位を教えてください。
大丈夫、一緒にやれば必ずできますよ。優先順位は三点です。第一にユーザー入力の検査ルールを作ること、第二にシンプルなガードレール（安全テンプレ）を用意すること、第三に運用中のログで誤答パターンを継続的に学習させることです。それぞれ低コストから始められますよ。
ありがとうございます。要は設計と運用の両方で守りを固めれば、導入コストを抑えつつリスクを下げられると。よし、社内で説明してみます。では最後に、私の言葉で要点をまとめますね。
素晴らしいです！その確認が最も理解を深めますよ。何かあればまた一緒に詰めましょう。
要点はこうです。『この研究は代表的LLMに対してFINRA由来の37種類の詐欺シナリオを当てて、どの手口でどのモデルが失敗しやすいかを洗い出したもので、人格や説得技術で結果が変わるため、運用設計で防ぐべき部分が明確になった』という理解で合っていますか。
