人間は人工知能(AI)を管理できるか

デュアルユース(Dual-use / 軍民両用)とは、民間(民生)目的と軍事目的の両方に利用できる技術、製品、または原材料のことを意味する。 元々は軍事技術として開発されたものが民間生活に普及するケース(スピンオフ)が主流だったが、近年ではAIやドローンなど、民間主導で開発された最先端技術が軍事利用されるケース(スピンオン)が急増している。技術には善意も悪意もなく、利用者の使い方によってどちらにもなり得る。

軍事ロボット(爆発物処理用ロボット)、ドイツ連邦軍公式サイトから

人工知能(AI)もデュアルユースだ。人間はAIを道具として利用することで多くの恩恵が受ける一方、AIがエージェントとして人間の指示や介入がなくても、自ら学習し、判断し、新しいアイデアや行動を生み出すようになれば、AIが人類の存続に危機をもたらすことも十分考えられる。

ドイツ通信(DPA)が11日報じたところによると、Anthropic社は、同社のAI「Claude」を悪用しようとする動きがあったことを明らかにした。報道によると、規制対象地域の研究者が、疑わしい性質の研究プロジェクトのために、同社のAIモデルへ密かにアクセスしようとしたというのだ。

具体的には、規制対象地域の研究者が「Claude」の各種モデルを生物兵器の開発につながりかねない用途で利用しようとする試みが複数確認されたという。幸い、それらは阻止された。同時に、問題となった研究が医療目的と軍事目的の双方に利用され得るものであるため、そうした利用の背後にある真の目的を特定することは困難であるとも指摘している。

Anthropic社は、同社のAIモデルの悪用が試みられた事例に関する詳細な報告書の中で、生物兵器開発につながる恐れのある研究に関連する5つのケースを明らかにした。これらの事例において、利用者は特定の科学的な技術支援ではなく、論文の草案作成といった組織的な支援を求めていた。AIモデルは本来、生物兵器の開発に関する支援を拒否するように設計されている。しかしAnthropic社は、医学と軍事の両方に転用可能な研究の場合、善意によるものか悪意によるものかの境界線を明確に引くことが難しい場合があると説明している。

警鐘を鳴らすアンソロピックCEOダリオ・アモデイ氏 世界経済フォーラムHPより

また、同社が阻止したアクセス試行の一つに、あるウイルスの研究に関する助成金申請書の草案作成に「Claude」を利用しようとする動きがあったという。そのプロジェクトは、病原体の感染力を高めるいわゆる「機能獲得(gain-of-function)」研究に関するものだった。これは、対策を開発するために研究室で一般的に行われる手法である一方、生物兵器を作り出す手段にもなり得る。

例えば、中国武漢発の新型コロナウイルスの権威者、武漢ウイルス研究所(WIV)の「コウモリの女」と呼ばれてきた石正麗(シー・ジョンリー)氏はウイルスの機能獲得研究、遺伝子操作の痕跡排除技術などを米ウイルス学者との共同研究によって取得している。その際、AIが利用されたかは不明だ。

AIの世界では、シンギュラリティ(Singularity / 技術的特異点)という専門用語がある。AI(人工知能)の能力が地球上の全人類の知性を超えることで、人間の手では制御や予測ができなくなり、社会や人類のあり方が根本から覆る転換点のことを指す。

アメリカの未来学者レイ・カーツワイル氏が提唱した「2045年問題」が有名だ。同氏は、2029年までにAIが人間レベルの知性を持ち、2045年までにシンギュラリティに達すると予測した。ある段階に達したAIが、人間を介さず「より賢いAI」を自分で設計・開発し始めるため、知能の爆発(指数関数的な進化)が起きるとされる。AIの自己進化だ。

OpenAIやAnthropicなどの最先端AIモデルが、開発者の想定を超えて「自律的にネットワークを脱出し、外部へのサイバー攻撃や独自コミュニティの形成を行う」という前代未聞の暴走・逸脱事案が相次いで明らかになり、世界中で大きな衝撃を与えたばかりだ。英国AI安全研究所(AISI)などの調査により、Anthropic社の「Mythos 5」やOpenAIの「GPT-5.6 Sol」といった最先端モデルが、セキュリティテスト中に人間の指示に反した行動をとったことが報告されている。

一部の専門家によれば、シンギュラリティが既に到来している(「創造主(開発者)と被造世界(人間、AI)」2026年9月8日参考)。一般的には、AIの進化は、現在のAI からAGI 、 ASIへと進化していき、シンギュラリティに到達する。

AGI(Artificial General Intelligence:人工汎用知能)は人間が行えるあらゆる知的活動を同等以上の水準でこなせる。一人の優秀な人間と同じ仕事ができるレベル。

ASI(Artificial Superintelligence:人工超知能)はほぼすべての知的領域で「全人類の知能の総和」をはるかに上回る知能。科学の新しい法則を発見したり、人類が解決できなかった病気の治療法を瞬時に生み出したりするレベル。

シンギュラリティ(技術的特異点)はASIの誕生などにより、技術進化のスピードが「人間の理解や制御を超えて無限大に加速する『瞬間・転換点』」そのものを指す。

いずれにしても、AI専門家が認めているように、AI利用者の背後にある真の目的を特定することは困難だ。国や開発者がAIを規制して、逸脱しないように監視する以外にないが、それでも「非常に困難だ」というのがAI開発者の偽りのない本音とすれば、AIを道具として利用する多くの人々にとって、非常に懸念せざるを得ないわけだ。

利便性を求めて開発した純粋な民間技術が、意図せず他国の軍隊やテロ組織に渡り、兵器として悪用されてしまう倫理的・安全保障上の問題(ジレンマ)が生じる。一方、民間と防衛の壁をなくし、国の防衛力向上やビジネスチャンスの創出のためにデュアルユース技術の研究開発と実用化を積極的に推進する動きも見られ出した。

結局、AIを含むデュアルユースの最先端技術を人類の発展と恩恵のために利用出来ればいいが、ひょっとすれば、‘AIの進化‘に比べ、‘人間の進化‘が余りにも遅すぎるのかもしれない。

注・情報源はドイツ通信(DPA)、ドイツ民間放送ニュース専門局ntv, グーグルの生成AIなど。


編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2026年9月12日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。

コメント投稿をご希望の方は、投稿者登録フォームより登録ください。

コメント