AI企業が、自分たちを規制する法律の草案を議会に持ち込む。そんな時代が来た。
米AI企業Anthropicが、最先端AIの安全性とセキュリティを規制する米連邦法案の草案を議員に提示していたと、政治専門メディアPoliticoが2026年10月16日に報じた。法案はまだ成立しておらず、公開された正式な法案でもない。だが、報道された内容だけでも、AIと政府の関係を考えるうえで見逃せない論点が詰まっている。
最大のポイントは、政府がAIモデルの公開や利用を止められる条件を、かなり狭く定めようとしていることだ。報道によれば、介入が認められるのは、予見可能で差し迫った危険があり、10億ドルを超える損害、または50人を超える死亡・重傷につながる場合。危険の原因も、生物兵器、モデルが開発者の制御を逃れること、サイバー攻撃の3つに限定される。
「50人」までは止められないのか
この数字を見て、少し立ち止まりたい。もちろん、政府が気に入らないAIを恣意的に止めることは避けなければならない。企業が巨額の投資をして開発したモデルを、行政の一声で突然使えなくできるなら、研究開発も事業計画も成り立たない。
一方で、被害が50人に達しない危険や、損害額が10億ドルに届かない危険は、社会にとって小さな問題なのだろうか。個人情報の流出、詐欺、重要インフラへの侵入、企業の機密情報の窃取は、被害が一度に大規模でなくても、積み重なれば深刻な影響を生む。報道された草案の基準では、こうした危険の一部が、モデルの公開停止を正当化する条件に届かない可能性がある。
ここで重要なのは、Anthropic案がAIの危険を無視している、という単純な話ではないことだ。草案には、企業による安全枠組みの策定、透明性報告、重大事故の報告、内部告発者の保護、第三者評価なども盛り込まれていると報じられている。争点は「安全か、自由か」の二択ではない。どの危険を、誰が、どの手続きで判断するかなのである。
政府が止めるなら、裁判官を通せ
報道によれば、商務省に登録した独立評価機関がAI研究所とモデルを定期的に評価し、差し迫った危険を認めれば、評価完了から72時間以内に商務省へ報告する。商務省はワシントンD.C.の連邦地裁に停止を申し立て、最終的に停止を命じるのは裁判官だ。商務省以外の政府機関が、独自にモデルの開発・提供・社内利用を止めることも禁じる設計だという。
この仕組みには、行政権力の暴走を防ぐという利点がある。Anthropic自身、2026年6月に米政府の輸出管理措置を受け、最新モデルのFableとMythosへのアクセスを全ユーザー向けに停止したと公表している。Anthropicは6月30日、輸出管理措置が解除されたと発表した。政府の判断が、AIサービスの提供に直接影響し得ることを示す事例だ。
ただし、輸出管理上の措置と、AI安全法に基づく公開停止は法的な仕組みが異なる。今回の草案が、あらゆる政府措置を防ぐ万能の盾になるわけではない。この違いを混同せずに読む必要がある。
全国統一ルールは、州の安全規制を弱めるのか
もう1つの大きな争点が、州法をどこまで無効にするかという「連邦法による先占」だ。カリフォルニア州は2025年9月、フロンティアAI開発者に安全枠組みの公表や重大事故への対応などを求めるSB 53を成立させた。ニューヨーク州もAIの安全プロトコルや事故報告を定めるRAISE法を成立させている。
州ごとに異なる規制が増えれば、企業は複数のルールへの対応を迫られる。全国共通の基準を設けたいという産業界の主張には、実務上の理由がある。しかし、連邦基準が州法より弱ければ、統一は規制の底上げではなく、既存の保護を取り払う結果にもなり得る。
Anthropicはこれまで州レベルのAI安全規制を支持してきたと報じられている。その企業が、一部州法を無効化する仕組みを含む連邦案を議員に示した。これは必ずしも矛盾とは限らない。全国共通のルールを州法より高い水準にできるなら、統一と安全は両立し得るからだ。問題は、実際にその水準が十分なのか、そして誰がそれを決めるのかである。
規制される企業が規制の設計に参加すること自体は、必ずしも悪ではない。技術を理解する企業の知見は欠かせない。しかし、企業がルール作りを主導し、そのルールによって自らへの監督や停止の条件を狭めるなら、「規制の虜（レギュラトリー・キャプチャー）」への懸念が生まれる。企業の専門知識を生かすことと、企業に最終決定権を渡すことは別問題だ。
日本は「止める権限」より先に、評価する力を
日本では2025年にAI推進法が成立し、同年12月にはAI基本計画が閣議決定された。日本の制度は、AIの研究開発と活用を推進する基本的な枠組みを中心としている。米国で議論されているような、フロンティアAIの独立評価、重大事故の報告、モデル停止をめぐる具体的な手続きとは、制度の性格が異なる。
日本が学ぶべきことは3つある。第一に、AIの利用停止が企業活動に及ぼす影響を、事業継続計画に組み込むことだ。海外のAIサービスが政府の判断や供給側の事情で使えなくなる可能性を前提に、代替手段、データの移行、業務の優先順位を考えておく必要がある。
第二に、安全基準を閉じた会議室だけで決めないことだ。企業、研究者、利用者、政府、そして市民社会が、どの危険をどの程度まで許容するのかを公開の場で議論するべきだ。数字を置けば議論は具体的になるが、数字だけで社会の価値判断が自動的に決まるわけではない。
第三に、独立してAIを評価できる人材と組織を育てることだ。評価機関が企業から費用を受け取るなら、評価の独立性をどう守るのか。企業の自己評価だけで十分なのか。政府自身が技術的に検証できるのか。制度を作る前に、検証する能力を育てなければ、規制は紙の上の約束に終わる。
AI規制の時代は、「規制するか、しないか」という段階を越えつつある。問われているのは、誰が危険を判定し、どの基準で、どの手続きでAIを止めるのかだ。政府の恣意的な介入を防ぐことは重要だ。しかし、止めにくい仕組みを作ることと、社会を危険から守ることは同じではない。日本に必要なのは、海外のルールを眺めるだけでなく、自ら評価し、判断し、説明できる力を持つことである。
【参考文献】
- Reuters, “Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports,” 2026年10月16日。
- Anthropic, “Statement on the US government directive to suspend access to Fable 5 and Mythos 5,” 2026年6月12日。
- Anthropic, “Redeploying Fable 5,” 2026年6月30日。
- California Governor, “Governor Newsom signs SB 53…,” 2025年9月29日。
コメント