東大情報学環・学際情報学府の「特定短時間勤務有期雇用教職員」である大澤昇平氏のツイートが論議を呼んでいる。
そもそも中国人って時点で面接に呼びません。書類で落とします。 https://t.co/b7YD1BfGjt
— 大澤昇平 :: AI 救国論 🇺🇳 (@Ohsaworks) November 20, 2019
これについて東大は遺憾の意を表明し、彼の寄付講座のスポンサーであるマネックスグループは寄付を停止すると発表した。ネット上の反応も圧倒的に「中国人の差別だ」という批判である。これは予想された展開だが、大澤氏にとっては予想外だったらしく、きょうになって反論をツイートしている。
今回の炎上問題について、あくまで株式会社Daisyの立場として弁明いたします。
①私が兼業する株式会社Daisyと東京大学は利益相反マネジメントを行っており、取引先も完全に分けています。
今回の私の「特定国籍の人間は書類で落とす」という投稿は、あくまで私企業が採用方針を表明したものです。
— 大澤昇平 :: AI 救国論 🇺🇳 (@Ohsaworks) November 25, 2019
自分でプロフィールに「東大最年少准教授」と書いておきながら、東大と無関係な「私企業の採用方針」だという話は通らない。「中国人」というのが「中国国籍をもつ人」という意味だとすると、これは明らかに国籍による差別である。
しかしこれは違法ではない。私企業の国籍差別を禁じる法律はないからだ。彼も「告訴してみろ」などと書いているので、刑事罰がないことは知っているのだろう(告訴という言葉は誤用だが)。
国籍差別は違法ではないが、倫理的に悪いことだろうか。多くの人がそれを前提にして彼を批判しているが、これは自明ではない。おもしろいのは、彼がそれを機械学習のみにくいアヒルの子の定理で説明していることだ。
機械学習の定理に「みにくいアヒルの子の定理」というものがあります。これは「純粋に客観的な立場からは、いかなるものも区別できない」というものです。
私はこの定理を前提とし、あくまで営利を目的とする私企業におけるパフォーマンスのことと、スコープを切って発言しています。
— 大澤昇平 :: AI 救国論 🇺🇳 (@Ohsaworks) November 25, 2019
アヒルの子と白鳥の子は見かけが違うが、アヒルの子もすべて同じではない。たとえば体重や羽の色は少しずつ違い、その違いは論理的には無限にある。逆にどっちも水鳥だとか地球上に住んでいるという共通点も無限にあるので、アヒルと白鳥は同じだともいえる。
機械学習するときは、こういう無限の違いの中から、たとえば種の違いという条件を設定して差別するが、そういう条件なしで「純粋に客観的な立場」からは、アヒルと白鳥は違うとも同じだともいえない。すべての差別は主観的なのだ。
就職で中国人を差別するのも主観的だが、彼が弁明するように学歴も同じだ。差別の条件が学歴ならよくて国籍が悪いという先験的な理由はない。大澤氏が単なる中小企業の経営者だったら、書類選考で中国人を落としても問題にならない。
問題は「中国人のパフォーマンスが低い」などという「東大准教授」としての差別発言である。これはヘイトスピーチ規制法に抵触するおそれがあるが、罰則はない。だがスポンサーが寄付を停止することはできる。中国人にきらわれたら、今後の採用活動に支障を来すからだ。
つまり国籍差別は悪ではないが利益にならないのだ(学歴差別は利益になる)。だから中国人を差別するという「評判」を否定することが、マネックスにとっても東大にとっても(功利主義的な基準で)重要である。彼らが異例の速さでコメントしたのも、ネット上で評判が拡散するのを防ぐためだろう。
ところが頭がアルゴリズムで動いている大澤氏には、評判という主観的な価値が理解できない。これはAIの本質的な限界を示している。どんな高度な機械学習でも、あらかじめ人間が条件を設定しないと中国人を差別できない。その条件を決めるのは人間の主観であり、純粋に客観的な立場では何も決められないのだ。
コンピュータが自分で生活できるなら評判や価値観を決められるかもしれないが、そんな「コンピュータのためのコンピュータ」をつくる意味は人間にない。AIが自分で意思決定する「シンギュラリティ」なんて永遠の空想なのだ。それを身をもって示した点では、大澤氏の愚行にも意味がある。