atakan/iStock
AIを導入した。予算もつけた。活用も進めた。
それでも政策は何も改善しない。
誰が決裁したかは記録に残っている。だが、なぜその判断が妥当だったのか、どの程度の検証を経たのかは誰も説明できない。
問題が起きればこう言われる。
「AIが誤生成した」
「チェックはした」
「私はAIに騙された」
この未来は、決して誇張ではない。
民間企業であれば失敗は市場が吸収する。しかし政策領域では失敗コストを国民が引き受ける。
だからAI導入は技術問題ではなく、統治設計の問題である。
三つの構造的リスク
1. 生成物の事実化
AIの出力は確率的生成物にすぎない。しかし政策空間では断言が好まれる。「AIが示した結論」は、客観的事実のように扱われやすい。だが政策は不可逆である。予算が動き、制度が固定される。確率を事実として扱うことは、誤りを制度に埋め込むことに等しい。
2. 責任の希薄化
「AIがそう分析した」という言葉は便利な盾になる。決裁者は存在する。だが、AI出力と決裁判断の因果関係が曖昧なままでは、責任は形式化する。形式的な責任はあっても、検証可能な責任がなければ改善は起きない。
3. 思考の外注化
AIは論点整理を高速化する。しかし反証工程が省略されれば、それは思考の外注である。政策は利害対立を調整する営みであり、前提を疑い、別仮説を立てる作業が不可欠だ。そこを省略すれば、熟議は形骸化する。
五原則——最低限の制度条件
原則1：補助原則
意思決定主体は常に人間である。AIは補助であり、最終責任は人に帰属する。
原則2：可視化原則
AIをどの工程で用いたかを明示する。利用箇所を構造的に開示する。
原則3：確率明示原則
出力の前提条件と不確実性を明示する。「推計」「仮説」を断言と区別する。
原則4：思考保持原則
AI出力に対する反証工程を制度化する。別視点からの検討を義務付ける。
原則5：検証循環原則
AI利用が政策成果に寄与したかを定期的に検証する。ログ保存と監査を前提とする。
透明性・人間責任・監査可能性は、EU AI ActやOECD AI原則でも強調されている。非現実的な要求ではない。
原則を機能させる最低構造——三者分離
制度を実装するには役割分離が必要である。
- 運用担当（AIの操作とログ管理）
- 決裁担当（出力を採用する最終判断）
- 検証担当（別角度・別モデルでの反証）
これは人数の問題ではない。牽制構造の問題である。
一つの政策判断が完結する場面
補助金政策の効果予測をAIで行う場合を想定する。
運用担当：「3パターンの推計を出しました。前提は成長率1.2%、物価上昇率2%。ログは保存しています。」
検証担当：「物価上昇率を3%に変更すると効果は半減します。別モデルでは逆方向の結果も出ています。」
決裁担当：「断言はできない。効果は条件付きと明示し、段階的実施にする。」
ここではAIは材料を出しているにすぎない。決定は人が行い、別の人が疑い、検証が記録される。
この構造が制度化されていれば、「AIに騙された」という言葉は成立しない。
三者分離なき統治の帰結
三者分離が確保されない組織では、AIの問題はやがて制度の問題へと転化する。
運用と決裁と検証が同一線上に並べば、反証は自己確認に堕する。
判断は迅速になるが、説明可能性は低下する。
責任は存在しても、検証可能ではなくなる。
これはAIの欠陥ではない。
統治構造の欠陥である。
AI導入とは単に技術を追加することではない。
意思決定の速度と情報量を拡張することであり、その分だけ責任構造も拡張されなければならない。
責任を設計できない組織は、AIを制御できない。
結論——AI時代の統治とは何か
AIは進歩の象徴になり得る。
しかし統治設計を伴わなければ、単なる加速装置に過ぎない。
導入の前に定義すべきは技術仕様ではない。
誰が操作し、
誰が決め、
誰が疑い、
誰が後から検証するのか。
AI時代の統治とは、技術の管理ではない。
責任の構造化である。
■
三塚 祐治
LFO DYNAMICS Structural Lab 代表。
制度設計・政策評価の構造分析を中心に研究・執筆。技術政策、社会制度、組織設計などを横断的に扱っている。
コメント