AIに対する幻覚的引用の防御

（Guarding against artificial intelligence–hallucinated citations）

田中専務

拓海先生、最近部下から「AIが論文の参考文献を作っちゃうらしい」と聞きまして、正直頭が真っ白です。うちの研究開発投資に影響しますか？

AIメンター拓海

素晴らしい着眼点ですね！落ち着いて大丈夫です。今回の論文は、AIが作る“hallucination（幻覚情報）”としての偽引用をどう防ぐかを議論していますよ。

田中専務

これって要するに、AIがでたらめな参考文献を書いてしまう可能性があるから、それを止める方法を提案しているということですか？

AIメンター拓海

その通りですよ。簡単に言えば、著者が引用した全ての文献の“本文（full text）”を投稿時に添付させる案で、偽引用を物理的に防ぐ仕組みを提案しています。

田中専務

うーん、でもそんなことを求めたら投稿手続きが面倒になりませんか。編集側の負担とか現場の抵抗が気になります。

AIメンター拓海

いい懸念ですよ。著者と編集の追加工数は最小限に抑えられる提案になっています。要点を三つで言うと、（1）投稿時に本文を添付、（2）恒久識別子やデータベースリンクを検証、（3）検証は表面的で済む、ということです。

田中専務

具体的にはどの程度の検証で良くて、どの程度が面倒なのか教えて下さい。うちの事業判断としてはコストとリスクの見積もりが欲しいのです。

AIメンター拓海

素晴らしい着眼点ですね！検証は二段階で済みます。まず恒久識別子（persistent identifier）や図書館の目録リンクがあれば素早くチェックでき、次に本文の存在を確認するだけで事実上の検証は完了します。

田中専務

なるほど。AIが間違えて出した引用ならリンクや本文が無いはずだから、それで弾けるわけですね。ただ、悪意のある人が明示的に偽造したらどうなるのですか。

AIメンター拓海

良い質問ですよ。悪意のある完全な偽造は確かに可能ですが、そのためには論文そのものを丸ごと捏造するか、偽の登録情報を大量に作る必要があり、ハードルがぐっと上がります。要するにコストの差で不正を抑止できるのです。

田中専務

それなら現実的ですね。ところでこの論文は具体的な前例や判例を挙げていますか？どの程度法的にも裏付けがあるのかが心配です。

AIメンター拓海

いい観点ですね！論文は法的事例も参照しています。具体的には米国の裁判でAIが生成した偽情報を弁護士が提出して制裁を受けた事例を引き合いに出し、本文提出要求の合理性を示していますよ。

田中専務

要するに、投稿時に本文を添えるルールを導入すれば、AI起源のうっかり偽引用をほぼ防げて、悪意の対策にも抑止力が働くということですね？

AIメンター拓海

まさにその通りですよ。簡潔に言えば透明性を高めて確認可能性を担保することで、幻覚（hallucination）による誤引用を体系的に減らせるのです。

田中専務

分かりました、ありがとうございます。ではうちの社内ルールにも応用できそうです。最後に私の言葉で要点を整理してもよろしいですか？

AIメンター拓海

ぜひお願いします。一緒に整理すれば、会議で使える表現も整えられますよ。大丈夫、一緒にやれば必ずできますよ。

田中専務

承知しました。要点は「引用の本文を提出させることで、AIの誤引用を早期に発見し、悪意ある偽造のコストを上げて抑止する」ということです。以上、私の言葉で整理しました。