今週、国連総会ではAIのリスクが主要テーマの一つとなり、ワシントンで予定されているトランプ大統領と習近平国家主席の首脳会談でも取り上げられる見通しだと報じられている。最先端AI（フロンティアAI）の開発を国際協力で抑えるべきだという声は高まる一方だが、米中が近く合意に至ると見る向きはほとんどない。
ニューヨーク・タイムズのニュースレター「The World」は、「Cold War lessons for A.I.（AIのための冷戦の教訓）」と題して、この状況を冷戦期の核軍備管理になぞらえ、そこから何を学べるかを論じている。
示唆に富む論考である。本稿では、まず同記事の内容を紹介し、その上で私が所属するMIT CAMSとミュンヘン工科大学AI倫理研究所（IEAI）での議論を踏まえて、いくつかの視点を付け加えたい。
【ニューヨーク・タイムズの論点】核とAI、似ている点と違う点
同記事はまず、対立する二つの超大国と、計り知れない破壊力を持つ技術という構図が、冷戦期とよく似ていると指摘する。当時も米ソの核管理は不可能だと考える人が多かったが、キューバ危機の13日間が両国の意識を変え、その後の軍備管理につながったという。
一方で同記事は、両者の違いも大きいとする。核兵器は政府が管理するが、AIは民間企業が開発し、スマートフォンがあれば誰でも使える。そして最大の違いとして挙げるのが「理解の度合い」である。
同記事によれば、核技術は拡散防止の枠組みができる何十年も前から十分に理解されていたが、AIは米国の最先端の研究所ですら自らのモデルを完全には理解できていない、いわばブラックボックスだ。理解できないものを規制するのは容易ではない、と同記事は述べている。
【ニューヨーク・タイムズの論点】ホットラインと査察
それでも同記事は、核管理の原則の一部はAIに応用できると論じる。キューバ危機の数か月後、米ソが最初に行ったのはワシントンとモスクワを結ぶホットラインの開設だった。同記事によれば、AI政策の専門家は、政府間だけでなく最先端の研究所も含めて懸念事案を共有する仕組みは容易に導入できると指摘しており、米中当局者の間ではすでにその導入が協議されているという。
もう一つはIAEA型の査察・監視である。同記事の中で、フューチャー・オブ・ライフ・インスティテュートのアンソニー・アギーレ氏は、ウラン濃縮の代わりに計算資源（コンピューティング能力）の上限を監視するという考えを示している。巨大なデータセンターは濃縮施設と同様に大規模で、衛星からの監視も可能だ。
また同氏は、最先端チップの製造が台湾の1社と、オランダの1社の装置に依存しているため、追跡はむしろ容易なはずだとし、「使うと決めれば、キルスイッチはすでに存在する。だが政治的意思が必要だ」と述べている。
同記事はさらに、米中の深い不信、民間企業が関与することの複雑さ、そして後れを取る中国が開発凍結に難色を示す可能性を課題として挙げる。
ソ連が核の制限に応じたのも、米国に追いついた後だったという。そして最大の問題は、AIの脅威について人類の認識がまだ一致していないことだとする。核の場合は広島・長崎の映像が集合的な記憶に刻まれたが、AIの暴走事例はその規模に及ばない、というのが同記事の見立てである。
ここからは、同記事を踏まえた私自身の考えを述べたい。
【CAMSの視点】事故から学ぶ仕組みをつくる
MIT CAMSでは、サイバーセキュリティを技術の問題である以前に、組織とマネジメントの問題として捉えてきた。重大なインシデントの多くは、単一の技術的欠陥ではなく、組織の意思決定や制度の隙間から生じる。だからこそ、事故が起きた後に原因を組織・制度のレベルまでさかのぼって分析し、その教訓を業界を超えて共有することが重要になる。
この観点から見ると、同記事が紹介するAIのホットラインは、首脳間の緊急回線にとどめるべきではない。航空業界の事故調査や、サイバー分野の情報共有組織のように、「AIインシデント」を報告し、分析し、共有する常設の仕組みとして設計すべきだと考える。
同記事が指摘するように、AIには広島・長崎に相当する共通の脅威認識がまだない。であれば、破局的な事故を待つのではなく、小さな事故やヒヤリハットを体系的に積み上げて、共通の脅威認識を先につくることこそが現実的な道である。
【IEAIの視点】倫理はブレーキではなく土台
ミュンヘン工科大学のAI倫理研究所は、技術者、哲学者、法学者などが分野を越えて議論する場である。そこで私が共有している問題意識は、倫理を開発を止めるブレーキではなく、AIが社会に受け入れられるための土台、つまり信頼の条件として位置づけることだ。
同記事が指摘する通り、後発の側は開発凍結に応じにくい。開発全体を止めるタイプの合意は、どうしても受け入れられにくいのである。それよりも、兵器、重要インフラ、生物・化学分野など、リスクの高い用途に焦点を絞り、透明性、評価、説明責任についての共通の物差しをつくる方が合意の余地は大きい。価値観の異なる国同士でも「何を危険とみなすか」の基準だけは共有できる。欧州がAI規制で積み重ねてきた経験は、その意味で参考になる。
広島の国・日本が担う役割
日本は被爆国として、核の脅威を最も深く知る国である。2023年のG7広島サミットで「広島AIプロセス」を立ち上げたのも偶然ではない。
日本が果たせる役割は少なくとも三つあると考える。
第一に、半導体製造装置や素材でサプライチェーンの要を担う立場から、チップ追跡・監視の仕組みづくりに実務的に貢献すること。
第二に、米中の間に立ち、研究者や実務家による対話の場を提供して信頼醸成を後押しすること。
第三に、インシデント共有の制度設計で、産学官の知見を国際的に提供することである。
MIT CAMSとしても、日本の企業や研究機関とこうした議論を深めていきたい。
同記事は最後に、先週米国で開かれたAI規制をめぐる会合で、スティーブ・バノン氏とバーニー・サンダース氏という立場の大きく異なる二人が、相次いでより厳しい規制を求めたことを紹介している。
同記事も言うように、立場を超えた一致は小さくとも第一歩である。キューバ危機のような破局を待つ必要はない。ホットラインと共通の物差しを、今のうちにつくっておくべきだ。
コメント