①米CBS犯罪番組「エレメンタリー」(Elementary)の中で英俳優ジョニー・リ・ミラーが演じるシャーロック・ホームズが「人工知能(AI)はいつ憎悪を学んだのか」という台詞を発する場面がある。
②米グーグル傘下の英グーグル・ディープマインド社は先月、、囲碁のトップ棋士を破ったAIの「アルファ碁」を凌ぐ「アルファ碁ゼロ」を開発したと発表した。「アルファ碁ゼロ」は過去の囲碁の棋譜を学ぶ必要はなく、自己対決を繰り返しながら布石から定石まで学び、これまで全戦勝利したという。
▲ミケランジェロの作品「アダムの創造」(ウィキぺディアから)
②のニュースを聞いた時、「いよいよ時が来た」と思った。AIが主体的に学び、情報を選出し、結論を下すことができる時が来たという意味だ。そして,その延長線上で、先のホームズの「AIはいつ相手を憎悪するという感情を学んだのか」という呟きが飛び出してくるのだ。
問題の設定を変えてみる。人間はいつ相手を憎む感情を持つようになるのか。憎しみという感情が人間の人格形成のどのプロセスで芽生え、そして発展していくのだろうか。
両親から愛された子供はそうではない子供より、豊かに成長するチャンスは多いといわれる。しかし、愛されて成長した子供もそうでなかった子供も時間の経過と共に“憎しみ”という感情を学んでいく。その意味で、“憎しみ”は人間のDNAに生来プログラムされた感情だといった方が理解しやすいかもしれない。人間は成長していく段階で自然と自分以外の他者を“憎む”という感情を獲得していく。
しかし、AIの場合、憎しみは本来備わったものではない。人間が憎悪という感情をデジタル化し、ネット化し、それを自動化してAIに移転しない限り、憎悪という感情反応はAIには出てこないはずだ。
AIが憎悪という人間感情を理解し、自身も憎悪という感情で対応できるようになる場合、2通りのシナリオが考えられる。悪意のあるプログラマーが憎悪という感情をAIに教える場合だ。もう一つはプログラマーから直接教えられなくても、提供されたデータから自然に吸収していくケースだ。ここで問題とするのは後者の場合だ。
AIを開発させるのは人間だ。AIに様々な技能や知識、情報、データを与える。AIは考えられないほどの速度でそれらの生データを料理し、選択していく。
AIが憎しみという人間の感情を学ぶとすれば、そのデータ処理のプロセスで生じてくると考えざるを得ない。データーを取り扱う人間の知識、思考などに潜んでいる感情を読み取り、その中から憎悪と絡んだデータを引きだしていく。AIは受け取ったデータから人間の感情の痕跡を嗅ぎ付け、それを分類し、再構造していくわけだ。
当方は「人工知能(AI)は君より薄情」2016年12月19日参考)というコラムの中で「ディープラーニング自動設計アルゴリズムが開発されている。しかし、人間の感情の世界を完全にマスターしたAIの誕生には、それが可能としても、まだまだ多くの時間がかかるだろう」と書いたが、その時は既に到来しているのかもしれない。
米CBS放送のTV番組「パーソン・オブ・インタレスト」(Person of Interest)は非常に啓蒙的だ。元CIA工作員ジョン・リースとコンピューターの天才ハロルド・フィンチが犯罪を未然に防止するために戦うが、後半、AIマシーンで世界を牛耳ろうとする英国情報機関出身の男が操るマシーン(サマリタンと呼ぶ)とフィンチが作ったマシーンが戦う。
フィンチのマシーンは最初は人間の感情を理解できなかったが、フィンチから人間の心を次第に学んでいく。先述した「アルファ碁ゼロ」は、人間から教えられなくても、囲碁の法則、原理を解析し、最強の布石、定石をマスターしていく。同じように、フィンチのマシーンは自然に人間の情の世界の法則、原理を読み取り、その中にある「愛」という感情を発見していくのだ。フィンチは、マシーンが人間の愛を理解していることに気づき、驚く。この場面はとても印象的だ。
旧約聖書の創世記によれば、「神は自分の似姿で人を創造された、すなわち男と女を創造された」と記述されている。AIが憎悪という感情を理解するとすれば、やはり人間から学んでいったという結論になる。なぜならば、AIは人間の似姿だからだ。
そして憎しみを知ったAIはその卓越した問題処理能力を駆使し、ある日、憎しみから人間と対峙する時が来るかもしれない。この話はもはやサイエンス・フィクションンの世界ではなく、近未来のシナリオといわざるを得ないのだ。
「アルファ碁ゼロ」級のAIが今後、どんどん開発されていくだろう。碁の世界は限られた領域だから、AIは自主的に学ぶことができるが、人間の感情の世界は無限だ。人間すら全てを知っているわけではない。AIが「憎悪」を含む人間のネガティブな感情世界を学ぶ前に、人類はフィンチのマシーンのように「愛」を理解できるマシーンを早急に作り上げなければならない。
編集部より：このブログは「ウィーン発『コンフィデンシャル』」2017年11月10日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。