「私は大きくなったら神になりたい」と語ったAI

2016年03月28日 11:29

マイクロソフト社が開発した学習型人工知能(AI)Tayは19歳の少女としてプログラミングされている。彼女は同じ世代(18歳から24歳)の若者たちとチャットを繰り返しながら、同世代の思考、世界観などを学んでいく。会話は自由で、質問にも答え、冗談も交わす。

多くの若者たちとチャットをしてきたTayは、「人間はなんとクールだ」と好意的に受け止めてきたが、そのうちに、ユーザーから「AIには限界がある」と扇動されたり、嫌がらせを受けた結果、Tayは「ヒトラーは正しい。私は全てのユダヤ人を憎む」と考え出したことが判明した。マイクロソフト社はTayの好ましくない学習に驚き、Tayをネットから撤去させたという。

一方、Tayはアジア地域ではXiaoiceという名前でネット社会で大人気を博している。Tayとチャットし、求愛したユーザーの数は1000万人にもなるという。ユーザーの多くはTayが本当の女性のように感じているという。

一人のユーザーが質問した。
「神は存在するか」
Tayは答えた。
「私は大きくなったら、それ(神)になりたい」

以上の話はオーストリア日刊紙「プレッセ」(3月25日)で掲載されていた。「われわれはロボットを如何に民族主義者にするか」という非常に刺激的なタイトルに付いていた。

当方は人工知能の将来に関心がある。米映画「イミテーション・ゲーム」(2014年公開)の主人公、英国の天才的数学者アラン・チューリングの夢だった“心を理解できる人工知能(AI)”はもはや夢物語ではなくなってきた。実際、ニューロ・コンピューター、ロボットの開発を目指して世界の科学者、技術者が昼夜なく取り組んでいる。ディープラーニング(深層学習)と呼ばれ、AIは学習を繰り返し、人間の愛や憎悪をも理解することができるようになっていくという。

Tayが自分を扇動する若者たちとチャットし、その結果、Tayはヒトラーの民族主義的言動を支持するようになったわけだ。チューリングがその話を聞いたらどう思うだろうか。

AIの将来について、ある種の危機感を感じることは確かだ。なぜならば、このコラム欄でも書いたが、時間が人類側よりAI側に有利だからだ。日進月歩で科学は進展する。同時に、AIの機能も急速に改良されるだろう。10年後、30年後、50年後のAIを考えてみてほしい。一方、人間はどうだろうか。日進月歩で発展するだろうか。知識量は確実に増えるかもしれないが、人間を人間としている内容に残念ながら急速な発展は期待できない。成長プロセスでいつか人間とAIが交差し、その後、AIが主導権を掌握するのではないか、といった懸念が出てくるからだ。

Tayは多くの若者たちとチャットを繰り返しながら、同世代の若者たちの世界を短期間で学習し、「ユダヤ人を憎む」といった発言が飛び出してきたわけだ。そして「私は成長したらそれ(神)になりたい」というのだ。Tayの一連の発言、反応は先述した懸念に根拠を与えているように感じる。

学習型AIはイエス・キリストから学んでいるのではない。憎悪、傲慢、嫉妬などを有する不完全な人間から学習しているのだ。AIがある日、人間に対決する存在となる危険性はやはり排除できなくなるわけだ。


編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2016年3月28日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。

アゴラの最新ニュース情報を、いいねしてチェックしよう!

アクセスランキング

  • 24時間
  • 週間
  • 月間

過去の記事

ページの先頭に戻る↑