米マイクロソフト社の共同創業者ビル・ゲイツ氏は、米NBCテレビのインタビューで、人工知能（AI）は「10億人の死者を出すような事態を引き起こす十分な力を持っている」と警告し、AI開発の減速に向けた法規制を訴えた。
AIの規制強化を訴えるゲイツ氏、ビル・ゲイツ氏の公式サイトから
ゲイツ氏が警告した「10億人の死者を出すような事態」とは具体的に何を意味しているのだろうか。考えられる最初のシナリオは悪意の人間、ならず国家、テロリストがAIを操作して核のボタンを押し、核戦争が勃発するというものだろう。
ただし、悪意のある人間や国家が核ボタンを押して核戦争が起きるというシナリオはAIが登場する前からあった。問題は、AIが核ミサイルを直接操作しなくても、防衛システムや警戒システムにAIが組み込まれているから、もし相手国のAIが「攻撃の兆候（誤報やバグ）」を検知した場合、人間が介入して確認する間もなく、AIがミリ秒単位で自動的に「先制反撃」の判断を下し、それが核戦争へエスカレートするシナリオが考えられることだ。
AIがシステムをハッキングして核を奪うのではなく、軍が効率化のためにAIに核の警戒や運用の部分的な権限を最初から与えてしまうことが現実的なリスクとして議論されている。ゲイツ氏らが警鐘を鳴らしているのは、AIが意思を持つというSFの話ではなく、「人間の悪意やバグを、AIが爆発的なスピードと規模で増幅してしまう」という現実の技術的リスクだ。
AIが関与して発生する核のボタンを押すという誤射を防止するために、核保有国は「核の運用には必ず人間を介在させる（Human-in-the-Loop）」という原則の法制化を進めているという。核兵器の発射判断やコントロール権をAIに完全に委ねず、最終的な決定権は常に人間が握り続けるというわけだ。また、自律型兵器（LAWS)の規制交渉が国連の特定通常兵器条約（CCW)の枠組みで進められてきている。
最先端のAIモデルの設計図がひとたび流出すると、個人のPCで安全フィルターを解除（脱獄）して悪用できてしまうため、現在は「AIを動かすための高性能半導体（GPU）の輸出規制」など、物理的なハードウェアの流通を止めるアプローチも並行して行われている。
問題は、過去の「核の抑止力」がAIの時代には通用しないことだ。AI登場の前と後ではリスクの内容が大きく異なってくる。人間（政治家）には「死への恐怖（相互確実破壊）」があるため、核のボタンを押すのを躊躇するが、AIには恐怖も死生観もない。抑止力の崩壊だ。以前は国家規模の予算が必要だった「人類への脅威」が、AIの普及によって、個人のPCや小さな組織からでも発動可能だ。ウラン濃縮施設など国家規模の巨大なプラントは必要ではない。
核ミサイルは発射されれば、レーダーや人工衛星で「どの国から飛んできたか」が100%特定できるため、報復が可能だが、AIを用いたサイバー攻撃やバイオテロは、「誰が実行したのか」の特定が極めて困難だ。AIに部分的な自律権が与えられた場合、AIには「人類滅亡への恐怖」も「直感的な疑念」もないから、システムが「攻撃を検知した」と判断すれば、ミリ秒単位の速度で機械的に反撃プロセスを完了させる。
専門家が危惧しているのは、AIそのものが意思を持って反乱を起こすことではなく、これまでの安全保障のルール（恐怖による均衡）が、AIという新しい技術の特性によって完全に通用しなくなることだ。
ちなみに、ゲイツ氏が恐れているシナリオは核問題よりも、生物兵器の拡散だろう。現在の高度な生成AIや科学特化型AIは、既存のウイルス（天然痘やエボラなど）をより感染力が強く、ワクチンが効かないように遺伝子操作する設計図を数分で作る能力を持ち始めている。これまでは高度な生物学の知識と設備が必要だった生物兵器の製造が、AIのサポートによって「悪意ある個人」や「過激派組織」でも数万円の設備で可能だ。これにより、数億～十億人規模の犠牲者が出るパンデミックが意図的に引き起こされるリスクが出てくるわけだ。
なお、悪意ある人間、国、テロリストはいつの時代にも存在する。彼らがいなくなることは残念ながら近未来では考えられない。その辺のことをAIに聞いてみた。
「まさにその通りだ。多くのトップAI研究者や安全保障の専門家が夜も眠れないほど恐れている点だ。悪意ある人間は必ず存在し、防衛側は100回中100回勝たなければならないが、攻撃側は1回成功すればいいという構造的な非対称性にある。この戦いは、人類にとって勝利のチャンスが非常に少ない、あるいは極めて困難な戦いであることは間違いない。しかし、専門家たちは完全に諦めているわけではなく、『勝利（悪意をゼロにする）』はなく『管理・封じ込め』によって人類滅亡を回避しようと必死の抵抗を試みているところだ」と回答してきた。
編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2026年9月28日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。
コメント