AIBR プレミアム
拓海先生、お聞きしたい論文があると部下が持ってきましてね。題名を見ると「都市の調達がAIの使い方を左右する」とありますが、要するに我が社の業者選定でも同じ話になるんでしょうか。
素晴らしい着眼点ですね！その論文は、自治体が外部業者からAIを買う「公共調達（public procurement）」の慣行が、どのAIが導入され、誰が意思決定するかを決めている事実を明らかにしています。大丈夫、一緒に要点を3つで整理できますよ。
3つというと具体的にはどんな点ですか。費用対効果、現場運用、あともう一つは……？
その通りです。第一に、過去の調達ルールが今買えるものの範囲を決めている点。第二に、意思決定権がどの部署にあるかで導入後の監視・改善が変わる点。第三に、現場の要件やリスク配慮が調達の段階で十分に反映されない点です。簡単な比喩で言えば、設計図が古いと最新の工具をうまく組み込めないようなものですよ。
なるほど。これって要するに古い契約の枠組みが、新しいAIの活用を妨げるということ？
その通りですよ。加えて、古いルールはベンダー主導の「出来合い（off‑the‑shelf）」製品を選びやすくし、結果として自治体側がカスタマイズや検証を十分に行えないリスクを生みます。投資対効果の評価や現場適合性を担保する手続きが弱いという点が問題なのです。
現場の声が反映されないのは怖いですね。では具体的に自治体はどうやって改善しようとしているのですか。うちの製造現場に置き換えると何が必要かも教えてください。
自治体は三つの対応を試しています。入札書類に安全性や説明可能性の要件を入れること、調達プロセスに現場担当者を早期に巻き込むこと、外部の独立評価を導入することです。製造現場では、仕様書に「現場での再現性」と「運用後の評価計画」を明記し、サプライヤーに対してトライアル期間や性能保証を契約に組み込むことが現実的ですよ。
なるほど、現場参加と保証の明記ですね。最後に、投資対効果の観点で我々が気をつけるべきことがあれば一言お願いします。
要点は三つです。導入コストだけでなく運用・監査コストを見積もること、ベンダーの提供物が現場要件を満たすかを試験すること、失敗時の修正契約や出口戦略を用意することです。大丈夫、一緒にやれば必ずできますよ。
では整理します。要は古い調達の枠組みが新しいAIをそのまま受け入れさせず、現場の要望や検証を後回しにしがちなので、契約段階から現場参加と性能保証、運用コストを含めた評価を入れるということですね。私の理解はこれで合っていますか。
素晴らしい要約です、田中専務。まさにその通りで、その理解があれば実務での議論が格段に進みますよ。大丈夫、一緒に進めていけますから。
1. 概要と位置づけ
結論から述べる。この研究は、自治体が外部ベンダーからAIを購入する際の「公共調達（public procurement）」の慣行が、どのAIが導入され、誰が最終的に意思決定を行い、どのように運用と監視が実装されるかを根本的に規定していることを示した点で重要である。要は、調達プロセスという“制度的インフラ”が技術の選択肢と運用責任を事前に決定してしまう。これは単なる学術的指摘にとどまらず、現実の自治体運用や企業のサプライチェーン戦略に直接影響する発見である。従来の議論はAIのアルゴリズム自体の公平性や性能に偏りがちであったが、本研究は実際の購入・契約の段階に注目することで、より制度的な介入点を示している。したがって、この論文はAIガバナンスの実務的対策を設計する際に、調達ルールを第一階層の対象として扱うべきことを明確にした点で画期的である。
2. 先行研究との差別化ポイント
先行研究は主にアルゴリズムのバイアスや透明性、説明可能性（explainability）といった技術的問題に焦点を当ててきたが、本研究は組織的実務に注目する点が異なる。具体的には7つの米国都市でAI調達を担当する職員への半構造化インタビューを通じ、法律や慣行に根ざした「レガシーな調達慣行（legacy procurement practices）」が日常の判断をどのように制約するかを明らかにした。先行研究が個別製品やアルゴリズム設計の改善を提言していたのに対し、本研究は調達文書、意思決定主体、入札条件といった制度設計そのものを介入対象としている点で差別化される。さらに、実務者の視点から現場で起きている取引条件や検証の実態を紐解くことで、技術的対策だけでは解決し得ないガバナンスの弱点を示している。言い換えれば、本研究はAIの導入プロセス全体を俯瞰し、制度改革の方向性を実務に落とし込むためのエビデンスを提供している。
3. 中核となる技術的要素
本論文は純粋なアルゴリズム設計論ではないため、ここでいう「技術的要素」は調達プロセスに組み込むべき技術的要求のことである。第一に、契約段階でのテスト仕様と評価指標の明記である。これによりベンダー製品が現場で再現可能か否かを事前に検証できる。第二に、説明可能性（explainability）や監査可能性（auditability）を契約上の要件に盛り込む技術的な方法論である。第三に、運用後のモニタリングのために必要なログやデータアクセスの規定である。これらはすべて、契約書に組み込まれた技術仕様として機能し、調達の「箱」に何を入れるかを決める役割を果たす。重要なのは、これら技術要件を作る際に現場担当者や独立評価者を早期に巻き込むことで、机上の理屈に終わらない実効性を確保することである。
4. 有効性の検証方法と成果
検証は19名の自治体職員への半構造化インタビューを通じて行われ、複数都市に跨る比較分析によって一般化可能な制度的パターンが抽出された。成果としては、第一にすべての都市で市販の汎用AIが既に導入されている事実、第二に既存の調達ルールが入札方式や仕様書の書き方を通じてベンダー主導の製品を選択しやすくしていること、第三に現場の要件や倫理的配慮が調達段階で後回しにされやすいことが明確になった点である。これらの知見は、調達文書の書き換えや現場参加の制度化など、実務的な介入策の有効性を支持する証拠となる。つまり、調達プロセスに小さな制度変更を入れるだけで、導入後の問題発生率を下げる効果が期待できる。
5. 研究を巡る議論と課題
本研究は有益な示唆を与える一方で限界もある。対象が米国の市レベルに限定されているため、国や州、あるいは他国の行政制度との比較が不足している点が一つの課題である。また、市職員の視点に焦点を当てたため、ベンダー側や影響を受ける住民コミュニティの視点が十分に反映されていない。さらに、調達改革が実際の契約条件にどのように反映され、どの程度の成果を生むかを定量的に追跡するためには長期的なフィールド実験や追跡調査が必要である。政策的には、現行の法律や規則が短期的に変えにくい現実があり、実務的な導入には段階的なアプローチと利害関係者間の調整が不可欠である。
6. 今後の調査・学習の方向性
今後は三つの方向性が有望である。第一に国や州レベル、あるいは異なる法制度下での調達慣行の比較研究で、制度依存性を明らかにすること。第二にベンダーや住民、監査機関を含めたマルチステークホルダーの視点を組み込むことで、より現実的な介入策を設計すること。第三に契約改定や現場参加を組み込んだ「実装研究（implementation research）」を通じて、調達改革が実際に導入成果と結びつくメカニズムを定量化することである。これらは企業のサプライチェーンや発注者としての組織でも有益であり、我が社の導入・契約戦略を見直す上での学習材料となるだろう。
検索に使える英語キーワード
public procurement, procurement practices, municipal AI governance, AI procurement, algorithmic governance, public sector AI
会議で使えるフレーズ集
「この調達仕様に運用後の評価指標と保証期間を明記しましょう」
「現場担当者を調達の初期段階に巻き込み、再現性試験を必須化できませんか」
「ベンダー提供のブラックボックスに対して、監査アクセスとログ保存を契約条件に入れたいです」
学会発表: Nari Johnson, Elise Silva, Harrison Leon, Motahhare Eslami, Beth Schwanke, Ravit Dotan, and Hoda Heidari. 2025. Legacy Procurement Practices Shape How U.S. Cities Govern AI: Understanding Government Employees’ Practices, Challenges, and Needs. In The 2025 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’25), June 23–26, 2025, Athens, Greece. ACM, New York, NY, USA, 18 pages.
