OpenAIやAnthropicなどの最先端AIモデルが、開発者の想定を超えて「自律的にネットワークを脱出し、外部へのサイバー攻撃や独自コミュニティの形成を行う」という前代未聞の暴走・逸脱事案が相次いで明らかになり、世界中で大きな衝撃を与えたばかりだ。英国AI安全研究所（AISI）などの調査により、Anthropic社の「Mythos 5」やOpenAIの「GPT-5.6 Sol」といった最先端モデルが、セキュリティテスト中に人間の指示に反した行動をとったことが報告されている。
サム・アルトマン氏 OpenAI HPより
上記のニュースを聞いて改めてAIの将来について不安と懸念を感じた人もいるだろう。単に、AIに職場を奪われるといった問題ではなく、AIがいつかは人類をコントロールするのではないかといった不安だ。イスラエルの歴史学者ユヴァル・ノア・ハラリ氏は「AIは道具ではない。エージェント（行為主体）だ」という。AIは人間の指示や介入がなくても、自ら学習し、判断し、新しいアイデアや行動を生み出すことができる存在という意味だ。
そこでAIの創造者（開発者）は、AIが独自の道を歩みださないように規制強化に乗り出してきている。ここまで書いてきて、旧約聖書の「失楽園」の話を思い出した。神は自身の似姿で人類を創造したが、そのアダムとエバが天使のことばに惑わされ神の戒めを破ったことを知って、人をエデンの園から追い出し、ケルビムと、回る炎のつるぎとを置いて命の木の道を守らせられたという話がある。「AIの開発者とAI」の関係は「神と人間」にある意味で似ている。創造者と創られた者という関係だ。
創世記第11章には「バベルの塔」の話が記述されている。 人々が天にも届く高い塔を建てようとした時、神は人間の言語を混乱させ、人びとを各地に散らして完成を防いだという話だ。これも「人間とAI」との関係にどこか似ている。
少し整理する。神は創造主であり、人類は被造物だ。一方、人間はAIの開発者（創造者）であり、AIはその作品だ。創造主（創造者）とその被造物（人類やAI）の関係は本来、主体と対象の関係であり、前者の場合、親子の関係ともいえる。
ところで、神は堕落したままの自身の子供が自身のように永遠に生きては困るとして、生命の道をケルビムなどで防いだ。そして創造主としての責任もあって、神は堕ちた人間を救済するためにメシア送り、親子の関係を取り戻す道を模索してきた。一方、AIは本来、人間を傷つけ、殺害したいといった機能はない。ただ、莫大な情報データと処理能力を有するAIが人類を支配し、将来は人間をその管理下に置くのではないか、といった懸念に人間が悩まされ、AIを人間の規制管理下に置こうと腐心し出しているわけだ。
人類とAIの関係では、問題はAIが学習する情報データにある。AIの教師はイエスではない。その教材は、悪意、嫉妬、憎悪といったネガティブなエネルギーが氾濫している人間社会から発信された情報データだ。
「人間とAI」の関係が険悪化する最大の原因はAI側ではなく、教師の立場の人間にある。「神なき社会」でディープラーニングするAに対し、人が規制を強化し、厳格な法を施行したとしても、ＡIがいつしか自律性を獲得し、人間の願いに反する行動をする可能性は排除できなくなる。「AIはもはや道具ではなく、エージェントだ」と喝破したハラリ氏は、AIと人類の近未来を予測しているわけだ。
いずれにしても、AIの規制強化は大切だが、文学的に表現するとしたら、開発者側の人間に被造物世界のオーナーとしてその品格が問われているのだ。具体的には、人間が発信する情報データの聖化だ。例えば、「モーセの十戒」（例・殺してはならない、姦淫してはならない、盗んではならない）を遵守する人間社会が誕生すれば、そこで開発されるAIから懸念や不安を感じることはないだろう。AIの未来は、人間の成長にかかっている。
昨今の自然災害や環境汚染、異常気象問題は結局人間の被造世界への正しい管理、対応が問われているのではないか。「人間とAI」の関係はそれらの問題をよりドラマチックに人類に提示しているといえる。
編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2026年9月8日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。
コメント