拓海先生、ちょっとお聞きしたいことがあるのですが。最近、うちの若手が「AIが事故を起こしたら誰が責任を取るのか」という記事を持ってきまして、正直ピンと来ないんです。要は法律の話ですよね。これって要するに、AIそのものを罰する話なんですか？
素晴らしい着眼点ですね、田中専務！まず結論を簡単に言うと、現行法で「AIをそのまま罰する」ことは難しいんですよ。ただし、AIの動作を生み出した人や製品・サービスの提供者に責任が及ぶ仕組みが検討されています。大丈夫、一緒に整理していけば必ずわかりますよ。
なるほど。では責任の所在を決めるために、どんな観点で議論しているのか教えてください。現場に持ち込む前に押さえておくべき点を知りたいのです。
要点は三つありますよ。第一に、刑事責任（criminal liability）は人の意図や過失に基づくため、AI自体を罪に問うよりは人がどう関与したかを見ます。第二に、民事責任では製品責任（product liability）か過失（negligence）かで扱いが変わる点が重要です。第三に、AIの限界や警告がユーザーに伝えられていたかが賠償判断に影響します。これだけ押さえれば会話が進みますよ。
ありがとうございます。少しずつ見えてきました。具体的には、うちがAIを納入した場合、プログラムを書いた人と売った人、どちらが責任を取ることになるのですか？
状況次第ですね。例えば犯行が誰かの命令によるなら命令した人が問われますし、製品が欠陥品であればメーカー側の製造物責任が問われます。加えて、開発者や販売者がその使われ方を予見できたかどうかが重要です。言い換えれば、誰がどの時点で予見可能・回避可能だったかを法は見るのです。
ここで一度確認しますが、これって要するに「AIを作った人や売った人が、予見できた範囲で責任を負う」ということですか？
その理解で本質を押さえていますよ。加えて、法律は三つのモデルを想定して議論されており、一つは他者が主体となって行為したとみなすモデル、もう一つは自然に予見される帰結として扱うモデル、最後はAI自体に直接責任を負わせるモデルです。現実的には前二者が中心で、実務では誰が最も合理的に回避できたかを見ます。
では実務として、我々が製品化する際に具体的に何を準備すればいいですか。投資対効果の面からも知りたいのです。余計な訴訟リスクを避けたい。
ここでも三点要約です。第一に、AIの限界や誤動作の可能性を明確に説明するドキュメントと警告を用意すること。第二に、想定される使用シナリオを洗い出して設計段階で危険を低減すること。第三に、責任分配を契約で明確にしておくこと。これらはコストを抑えつつリスクを大幅に低減できますよ。
承知しました。最終確認ですが、要点を私の言葉でまとめると、「現行法ではAIを直接罰するのではなく、誰が予見し回避できたかを基準に人や企業の責任を問う。だから設計と説明、契約で備えるのが現実的だ」という理解で合っていますか。
その通りです！素晴らしいまとめですね。では次は実際の契約文やユーザー向けドキュメントの作り方まで一緒に進めましょう。大丈夫、一緒にやれば必ずできますよ。
