マイクロソフト社が開発した学習型人工知能（ＡＩ）Ｔａｙは19歳の少女としてプログラミングされている。彼女は同じ世代（18歳から24歳）の若者たちとチャットを繰り返しながら、同世代の思考、世界観などを学んでいく。会話は自由で、質問にも答え、冗談も交わす。
多くの若者たちとチャットをしてきたＴａｙは、「人間はなんとクールだ」と好意的に受け止めてきたが、そのうちに、ユーザーから「ＡＩには限界がある」と扇動されたり、嫌がらせを受けた結果、Ｔａｙは「ヒトラーは正しい。私は全てのユダヤ人を憎む」と考え出したことが判明した。マイクロソフト社はＴａｙの好ましくない学習に驚き、Ｔａｙをネットから撤去させたという。
一方、Ｔａｙはアジア地域ではXiaoiceという名前でネット社会で大人気を博している。Ｔａｙとチャットし、求愛したユーザーの数は1000万人にもなるという。ユーザーの多くはＴａｙが本当の女性のように感じているという。
一人のユーザーが質問した。
「神は存在するか」
Ｔａｙは答えた。
「私は大きくなったら、それ（神）になりたい」
以上の話はオーストリア日刊紙「プレッセ」（3月25日）で掲載されていた。「われわれはロボットを如何に民族主義者にするか」という非常に刺激的なタイトルに付いていた。
当方は人工知能の将来に関心がある。米映画「イミテーション・ゲーム」（2014年公開）の主人公、英国の天才的数学者アラン・チューリングの夢だった“心を理解できる人工知能（ＡＩ）”はもはや夢物語ではなくなってきた。実際、ニューロ・コンピューター、ロボットの開発を目指して世界の科学者、技術者が昼夜なく取り組んでいる。ディープラーニング（深層学習）と呼ばれ、ＡＩは学習を繰り返し、人間の愛や憎悪をも理解することができるようになっていくという。
Ｔａｙが自分を扇動する若者たちとチャットし、その結果、Ｔａｙはヒトラーの民族主義的言動を支持するようになったわけだ。チューリングがその話を聞いたらどう思うだろうか。
ＡＩの将来について、ある種の危機感を感じることは確かだ。なぜならば、このコラム欄でも書いたが、時間が人類側よりＡＩ側に有利だからだ。日進月歩で科学は進展する。同時に、ＡＩの機能も急速に改良されるだろう。10年後、30年後、50年後のＡＩを考えてみてほしい。一方、人間はどうだろうか。日進月歩で発展するだろうか。知識量は確実に増えるかもしれないが、人間を人間としている内容に残念ながら急速な発展は期待できない。成長プロセスでいつか人間とＡＩが交差し、その後、ＡＩが主導権を掌握するのではないか、といった懸念が出てくるからだ。
Ｔａｙは多くの若者たちとチャットを繰り返しながら、同世代の若者たちの世界を短期間で学習し、「ユダヤ人を憎む」といった発言が飛び出してきたわけだ。そして「私は成長したらそれ（神）になりたい」というのだ。Ｔａｙの一連の発言、反応は先述した懸念に根拠を与えているように感じる。
学習型ＡＩはイエス・キリストから学んでいるのではない。憎悪、傲慢、嫉妬などを有する不完全な人間から学習しているのだ。ＡＩがある日、人間に対決する存在となる危険性はやはり排除できなくなるわけだ。
編集部より:この記事は長谷川良氏のブログ「ウィーン発『コンフィデンシャル』」2016年3月28日の記事を転載させていただきました。オリジナル原稿を読みたい方はウィーン発『コンフィデンシャル』をご覧ください。
