世界最先端のAIを開発している3人が、珍しく同じ方向を向き始めた。OpenAIのサム・アルトマン、Anthropicのダリオ・アモデイ、Google DeepMindのデミス・ハサビスである。ところがトランプ大統領はAI規制に反対の意向をSNSで表明した。
AI企業自身が「規制してくれ」と言い始めた
3人はこの数カ月、それぞれ別々にAI規制の構想を発表してきたが、その内容はかなり似ている。対象を通常のAIサービスではなく、国家安全保障に影響するほど強力な「フロンティアAI」に絞り、第三者による安全性評価を行い、危険性が高い場合には公開を延期したり、開発速度そのものを落としたりする仕組みをつくろうというものだ。(Axios)
特に具体的なのはハサビスの案だ。金融業界のFINRAをモデルに、業界が資金を出しながら政府の監督を受ける独立したAI標準機関を設ける。最先端モデルを公開前に最大30日間評価し、サイバー攻撃、生物兵器、欺瞞行動などの危険性を検査する。当初は自主的な制度として始め、将来は審査合格を米国内での提供条件にする構想である。(TechCrunch)
OpenAIも6月、将来的には国際的な機関によって主要AI企業を調整し、必要な場合にはフロンティアAIの開発を協調して減速できる制度が必要だと表明した。競争が激しくなれば、1社だけが安全のためにブレーキを踏むことは難しいからだ。(OpenAI)
そして9月12日、アモデイはさらに踏み込んだ。AIの能力向上が安全研究を追い越しているとして、フロンティアAIの開発ペースを意図的に落とす”Pace the Frontier”を提唱した。外部の安全性評価機関に社員並みのアクセス権を与え、最終的には米国のすべての主要AI企業に共通ルールを課すべきだという。アルトマン、ハサビス、イーロン・マスクもこの方向に賛同した。(The Information)
トランプは「誰がAIを制するか」の方が重要
ところがトランプ大統領は、この流れに冷淡だ。9月13日、アイルランドを訪問中のトランプ氏はAI開発を減速したり規制したりすべきかと質問され、「われわれはAIで中国をリードしている」「AIを制する者が勝つ」と答えた。
一定のガードレールを設ける可能性は否定しなかったが、AIの危険性を訴える議論については「非常にネガティブな勢力」が実際には起きないことを持ち出している、と一蹴した。(Reuters)
AI企業側の発想とトランプ政権の発想は正反対である。AI企業は「競争が激しすぎるから全員でブレーキを踏むルールが必要だ」と主張する。トランプ氏は「競争相手が中国なのに、米国だけブレーキを踏んだら負ける」と考える。
「AIの安全」と「中国に勝つ」は両立するのか
問題はトランプ氏の懸念にも一理あることだ。米国企業だけに厳しい規制をかけ、中国企業がその間も全速力で開発を続ければ、AIの軍事・サイバー能力で中国に追い抜かれる可能性がある。
アモデイ自身もこれを認めている。米中のAI競争について、安全のための「速度制限」を導入する際の最大の難問だと述べ、相手国が抜け駆けしていないことを確認できなければ協調は成立しないと指摘している。(Reuters)
一方で、だからといってブレーキのない開発競争を続ければ、誰も十分に安全性を確認しないまま、サイバー攻撃や生物兵器開発に利用できるAIが投入されるという「囚人のジレンマ」が生まれる。
奇妙なことに、AIを最もよく知る開発者たちが「規制してくれ」と言い、規制を担当する政府が「もっと速く走れ」と言っている。
AI開発競争は、もはやシリコンバレーだけの技術競争ではない。「AIを制する者が世界を制する」というトランプ氏の言葉通り、米中覇権競争そのものになった。そのためAI規制で最大の難問となるのは技術的な安全基準ではなく、米国と中国が同時にブレーキを踏める仕組みをつくれるかどうかなのだ。
コメント