拓海さん、最近部下から「SOTIFに基づく安全検証が必要だ」と言われて悩んでいます。何をどうすれば安全になるのか、正直ピンと来ないのです。
素晴らしい着眼点ですね！まず結論を一言で申し上げますと、大事なのは時間軸で起こる“誤差の連鎖”を可視化して評価することです。大丈夫、一緒にやれば必ずできますよ。
時間軸というと、例えばセンサーが少しずつずれていくようなことですか。それが重大な挙動につながると考えればよいのですか。
その通りです。AIやセンサーは単発のミスだけでなく、時間に沿って起きる誤差の積み重ねで危険が発生することがあるんですよ。要点は三つ、誤差の定義を精密化すること、誤差の並び（シーケンス）を扱うこと、設計モデルから因果を導くことです。
なるほど。具体的にはどうやってその“誤差の並び”を調べるのですか。現場のエンジニアに何を指示すればよいですか。
簡単に言えば、車両レベルで起きる「危険な振る舞い」から逆に辿って、モジュールごとの誤差の並びを導く方法を使います。要は車の振る舞いをゴールにして、そこに至るための前提条件を最小化して洗い出すやり方です。難しく聞こえますが、設計図に沿って原因を落とし込むイメージです。
これって要するに、車がぶつかるような挙動を先に決めてから、その直前に何が起きたかを逆算するということ？設計図で因果関係をたどると。
その通りです。要するに転倒の原因を最後から辿るようなものです。さらに重要なのは、そうして洗い出した誤差の並びに確率的な重みを付け、現場で優先的に対策すべき項目を決められる点です。やるべきことを順位付けできるのは経営判断で助かりますよね。
確率を付けて優先順位を決めるのはありがたい。しかし現場がモデルを用意できるか心配です。工場のエンジニアに負担がかかりませんか。
その点も考慮されています。提案手法は設計モデルを活用し、保守的な近似で扱うことで負担を抑える工夫があるのです。まずは一機能、例えば自動ブレーキに絞って試し、成果が出たら横展開するのが現実的です。大丈夫、一緒にやれば必ずできますよ。
なるほど。まずは自動ブレーキの設計図から危険な挙動を逆算し、誤差の連鎖を洗い出して優先度を付けると。費用対効果が見えやすいですね。
その理解で完璧です。まとめると、(1) 時間軸の誤差を明確に定義する、(2) 危険な挙動からモジュール誤差列を導く、(3) 確率的評価で優先順位を付けて対策する、の三点です。できないことはない、まだ知らないだけですから。
分かりました。自分の言葉で言うと、今回の論文は「車が危険な動きをする最後の状態から逆算して、センサーやAIの誤差の時間的な連鎖を見つけ出し、その発生確率で対策の優先度を決める方法」を示しているということですね。これなら現場にも説明できます。
