「シンギュラリティ（技術的特異点）」をめぐる議論が再燃している。
AIの加速度的な進化がある時点を境に、人類社会を不可逆的に高次の段階へ押し上げる、という文脈でこの語を用いている方もいる。だが半世紀前にシステム工学を学び、米国文献でこの概念に触れた筆者の理解は、これとは根本的に異なる。
特異点とは「分岐」であって「到来」ではない
システム工学、あるいは非線形力学における「特異点（singular point）」とは、本来、系がある条件のもとで複数の軌道に分かれうる分岐点（bifurcation point）を指す概念である。
プリゴジンの散逸構造論やカタストロフィー理論が示すように、系はパラメータのわずかな違いによって、より秩序だった高位の定常状態に移行することもあれば、逆に崩壊的な低位の定常状態へと落下することもある。どちらに転ぶかは、あらかじめ決まっているのではなく、その時点での内部条件次第なのである。
これに対し、カーツワイル以降ポピュラーになった「技術的特異点」の語り方は、しばしば「技術の加速度的進歩＝より高次の段階への一方向的な移行」という楽観を暗黙の前提としている。来るか来ないか、という二択で語られがちだ。
しかし本来のシステム工学的な意味に立ち返れば、これは順序が逆である。技術は進歩する。しかしそれが高位の定常状態への移行を保証するわけではない。
いま特異点にいる、という理解
筆者の立場は、いまこの瞬間がまさにその分岐点だ、というものである。AIをはじめとする技術は今後も進展していくだろう。しかし、それが人類を高位の定常状態へ導くかどうかは、技術そのものではなく、我々の思想、価値観、世界観、そして平和観がどう変化するか（あるいは変化しないか）にかかっている。
生態系科学におけるティッピングポイント研究も、同じ外力を受けても系が複数の異なる安定状態を持ちうることを示している。技術決定論——技術が進歩すれば社会は自動的に良くなる、という見立て——に対する一つの反証がここにある。技術は必要条件ではあっても、十分条件ではない。
思想が変わらなければ、高位には移行しない
現在の国際秩序を見渡すと、思想や価値観の面での更新は、技術の進歩速度にまったく追いついていない。
分断的なナショナリズム、ゼロサム的な安全保障観、そして気候・エネルギー政策における一方向的な「正しさ」の押し付け——これらは、いずれも低位の定常状態への引力として働きうる要素である。技術がいかに高度化しても、これらの思想的土台が更新されなければ、系は高位の安定状態には至らず、むしろ分岐点で低い軌道に滑り落ちる危険すらある。
高位へ移行できる条件とは
筆者は学生時代、化学反応が発する熱と、それを外部へ逃がす冷却の釣り合いによって温度が決まる、という現象を研究していた。この分野には示唆的な知見がある。
反応器の温度は、発熱の勢いと冷却の勢いがちょうど釣り合う点に落ち着くが、その釣り合い点は一つとは限らない。低い温度で安定する場合もあれば、高い温度で安定する場合もあり、どちらに落ち着くかは、温度が少し変化したときに冷却の効き方が発熱の勢いにどれだけ素早く追随できるかで決まる。冷却の反応が発熱の反応より鈍ければ、系は暴走するか、逆に低い温度に押し戻されてしまう。
これを文明の規模に当てはめれば、「発熱」は技術力や情報力の指数関数的な増大、「冷却」は法制度・倫理・国際的な合意形成といった、それを制御し吸収する仕組みに相当する。高位の定常状態へ移行できる条件は、この制御側の対応力が、技術側の増大速度に見合う速さで働くことである。いまのAIをめぐる議論は、発熱側（性能競争）ばかりが語られ、冷却側（ガバナンスや倫理的合意）の整備が明らかに追いついていない。
さらに重要なのは、何もしなければ系は元の低い安定点にとどまり続けるという点である。高位への移行には、外部からの意図的な後押し——技術に見合う速さで思想や制度を更新しようとする、社会全体の意思——が要る。そして、いったん低い状態に落ち着いてしまうと、同じ条件を巻き戻しても簡単には高位に戻れない、という不可逆性のリスクもある。今の国際秩序の分断や、科学的合意形成の劣化を見ていると、この不可逆性への警戒は決して杞憂ではないだろう。
おわりに
「シンギュラリティ到来論」と筆者の立場との違いは、同じ「特異点」という語を使いながら、片方はそれを単一方向のブレークスルーとして、もう片方は分岐点として捉えている、という語の使い方そのものの違いに帰着する。
技術の進歩を語ることは容易だが、それを高位の定常状態への移行につなげられるかどうかは、我々自身の思想的成熟にかかっている。いま問われているのは、AIの性能ではなく、人間の側の準備なのである。
コメント