米人工知能（AI）企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は「AIが自ら改善していく能力を高めてきた。AIがより高い能力を持っていけば壊滅的な被害をもたらす危険性が出てくる。６～12カ月後にはAIがインターネット全体を乗っ取る能力を獲得するのではないかと懸念している」と警鐘を鳴らし、「AI開発のテンポを遅くすべきだ」と述べている。
「残る最後の謎は意識だ」と語った英国生物学者クリック博士、ウィキぺディアから
直近のAIに関連するニュースには、上記のアモディ氏のように、AIの近未来を懸念する声が広がってきているように感じる。根拠がないわけではない。衝撃的な報告が公表されているからだ。Anthropic社は、同社のAIモデルの悪用が試みられた事例に関する詳細な報告書の中で、生物兵器開発につながる恐れのある研究に関連する5つのケースを明らかにしている。
それに先立ち、 OpenAIやAnthropicなどの最先端AIモデルが、開発者の想定を超えて「自律的にネットワークを脱出し、外部へのサイバー攻撃や独自コミュニティの形成を行う」という前代未聞の暴走・逸脱事案が相次いで明らかになり、世界中で大きな衝撃を与えたばかりだ。英国AI安全研究所（AISI）などの調査により、Anthropic社の「Mythos 5」やOpenAIの「GPT-5.6 Sol」といった最先端モデルが、セキュリティテスト中に人間の指示に反した行動をとったことが報告されている。
サム・アルトマン氏 OpenAI HPより
AI開発のパイオニアの警告だから、私たちは深刻に受け入れなければならない。ところで、なぜ今、AI開発者の中に警戒論が出てきたのだろうか。考えられる点は、AIの進化が開発者の想定を超えて急速にその能力を高めているからだ。「AI危険説」の中核は、AIが意識を開発し、独自の意志で人間を支配するのではないか、といった懸念があるからだろう。ただ、AIが将来、意識や意志を有することができるかどうかでは専門家の間でも様々な意見がある。
DNAのラセン状構造を発見してノーベル生理学・医学賞を受賞した英国フランシス・クリック氏（1916年～2004年）は「残る最大の謎は意識だ」と述べたという。そして同氏ら脳神経学者たちは「意識が脳内に潜んでいる」と考えて研究を重ねているが、今日まで「意識の拠点が脳内で見つかった」といった研究報告書は聞かない。それでも「意識の源は脳内にある」と考える脳神経学者は「まだ見つかっていないだけで、近い将来、必ず見つけられる」と信じている。
素朴な疑問だが、物質から心が生まれるだろうか。生命体を構成している全ての分子を統合しても生命を生み出すことはできない。同じように、人類がこれまで構築してきた全ての情報データを結集させたとしてもＡＩは普通の人間が有する感覚質（クオリア）を開発できるだろうか。もちろん、現在のAIモデルが進化し、ASI（超人工知能）に発展した場合は分からないが、たとえ情報処理能力や情報データのパイが大きくなっても理屈は同じではないか。AIは機能を説明、解明できたとしても、人間の経験を説明できない。
交流電気の発明者ニコラ・テスラ（1856年～1943年）は人間の脳を受信機に譬えている。人間は宇宙の中核から送られてくる知識やパワー、ひらめきを脳という受信機でキャッチする。人間の意識を含む全ての源は宇宙から送られてくるものを脳が受信することで、人間としての知的活動が可能となるというのだ。受信機の脳が何らかの理由で傷ついたりすると受信できないため、会話が出来なくなったり、学習ができなくなるといった状況が生まれてくる。テスラの見解はＡＩ学者や哲学者から批判的に受け取られているが、当方には、AIが近い将来意識を獲得するという懸念より、魅力ある解釈のように思える。
もし、AIが意識や独自の意志を有していないとすれば、AI開発者はAIを恐れる必要があるだろうか。オーストリア科学アカデミーのAI専門家マイケル・ネントヴィヒ氏は14日、オーストリア国営放送（ORF）とのインタビューの中で「私はAIが独自の意識・意志をもって、人間を支配するという話を信じてはない。そのような議論や懸念がメディアを飾っているのは、AI開発側の一種の宣伝ではないか」と、少々シニカルに答えていた。当方も「そうあってほしい」と思うが、やはり「AI怖い説」を完全には払しょくできない。
いずれにしても、AIは「怖い」という言葉を理解できたとしても、「怖い」という人間の感情を理解できないだろう。AIに対する人間の優位性はまだ崩れてはいないと信じる。「怖い」のは、AIを悪意の目的のために利用しようとする人間だ。AIではない。
編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2026年9月16日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。
コメント