中国の大学生と作った AI 原則5条

2018年06月22日 11:30

9月からの今学期、初めて人工知能(AI)に関する授業「人工知能時代のメディア」を始めた。前学期、「現代メディア課題研究」の授業でAI主テーマにしたところ、学生の強い関心と反響があったので、今学期から独立させた。全16週授業の目標を、「AI原則」の制定に置いた。まずは小グループに分かれ、AI発展の歴史から生活の中のAI、就職への影響、安全リスク、メディアの中などのテーマごとに基礎的な研究をし、その土台をもとにそれぞれの原則を起草した。自薦で3人の起草グループを作り、そこで全体の取りまとめをした。


論議の過程で、「原則」は法規則のようで堅苦しいとの指摘があり、最終的に「私たちのAIドリーム(我们的AI梦)」となった。昨日、最後の授業があり、クラス全員の賛同を得て、「私たちのAIドリーム」5条が誕生した。


言うまでもなく、SF作家のアイザック・アシモフが1950年、作品の中でロボットが従うべきとして示された原則、いわゆる「ロボット3原則」を引き継いだものである。以下が、アシモフの唱えた3原則で、その後、ロボット工学など幅広い分野に影響を残した。

第1条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
(A robot may not injure a human being, or, through inaction, allow a human being to come to harm.)

第2条 ロボットは人間から与えられた命令に服従しなければならない。ただし、与えられた命令が、第1条に反する場合は、この限りでない。
(A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.)

第3条 ロボットは、第1条および第2条に反しない限り、自分自身を守らなければならない。
(A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.)

すでに昨年2月、米ボストンに拠点を置く学術支援団体「Future of Life Institute(FLI)」が、カリフォルニア州アシロマに各分野の専門家を集め、「「人類にとって有益なAIとは何か」を5日間にわたって議論し、「アシロマAI原則」23条を公表した。この原則 は、AIの研究、倫理・価値観、将来的な問題の3つ分野に関して、安全性や透明性、プライバシーや人間の尊厳の尊重、利益の共有、軍拡の反対までを網羅したきめ細かい規定だ。

最初の授業で私がAI原則の制定を掲げたとき、多くの学生はすぐに意味が呑み込めないようだった。ある学生は私に尋ねた。

「すでに権威のある原則ができているのに、どうして私たちがまた考えなくてはならないのか?」

私の答えは明確だった。

「人間の知能にとって代わり得るAIの開発は、われわれの生活や生き方そのものにかつてないほどの変革をもたらす可能性がある。専門家だけにゆだねるのではなく、すべての人が関心を持つべきだ。そして、すべての人に発言権が与えられるべきだ。われわれがその先例を作ればいい」

議論の過程で何度も繰り返したのは、世の中がどうなっていくか、どうあるべきかを大上段に語るのではなく、私たちがどうあってほしいかを若者の目で率直に訴えようではないか、との呼びかけである。次代を担う若者たちのアピールである。

こんな具合にクラス35人の探求が続いた。

(続く)


編集部より:この記事は、汕頭大学新聞学院教授・加藤隆則氏(元読売新聞中国総局長)のブログ「独立記者の挑戦 中国でメディアを語る」2018年6月21日の記事を転載させていただきました。オリジナル原稿をお読みになりたい方は、加藤氏のブログをご覧ください。

アゴラの最新ニュース情報を、いいねしてチェックしよう!
加藤 隆則
汕頭大学新聞学院教授、元読売新聞中国総局長

アクセスランキング

  • 24時間
  • 週間
  • 月間

過去の記事

ページの先頭に戻る↑