Thai Liang Lim/iStock
生成型AIと呼ぶのか、対話型AIと呼ぶのか…英語でも”Generative AI”と呼んだり”Conversational AI”と呼んだりと呼称が定まってない感じだが、あれこれネット情報を収集したり、自分でもChatGPTを触ってみたりすればするほど、とてつもないものが出現したという思いが強まる。
何年か前、「シンギュラリティ」って言葉が取り沙汰されたのを覚えている。「AIが人智を超える日」ってなイメージで、それが2045年頃に来るとか言われてた。
AIが成長するために「学習する｣データが、ヒトが過去に生んだデータの域を超えないなら、「人智を超える」日は遠いのかもしれない。過去にデータの無い、例えば「万有引力の発見」とか「相対性理論の考案」とかをAIがやってしまうイメージは、今は未だ無い。
けど、ヒトが「知的活動」だの「知的創造」だと考えていた営みの大部分が、実は自分が過去に学習した知識や思考のパターンの適用でしかないのだとすれば、AI は易々とその「知的活動」を代替してしまうだろう。
つまり、凡人の「知的な｣営みの大半がAI に置き換えられてしまうという意味での「サブ・シンギュラリティ」は今年開幕してしまったのかもしれない。そのかぎりでは、「シンギュラリティ」がにわかに現実味を帯びて感じられるようになった。
さて、話題は変わって。
14日のFTに”OpenAI’s red team: the experts hired to ‘break’ ChatGPT”という興味深い記事が載った。
Chat GPTを開発した組織Open AI は、最新モデルGPT-4が問題のある、あるいは邪悪な出力をしないように、さらには我々の倫理観や価値観に違（たが）う出力をしないように、各分野の専門家50名を雇って、問題点を指摘させているんだそうだ。セキュリティホールを探して指摘してくれるホワイトハッカーを雇うようなものかな。
記事は一例として、委嘱を受けた化学の研究者は「GPT-4は化学の研究を加速し質を高めるだろう」としながら「危険な研究にも用いられ得る」と述べていて、Open AIが対策を検討しているという。
とてつもない能力を備えたこのAI を”civilize”していくのはたいへんだ。「教育」し損なうと知的フランケンシュタインを産んでしまうのかも。
ところで、AI に食べさせる（学習させる）データに偏りがあると、出力にも影響が出るらしい。例えば、これは別情報ソース（伊藤穣一氏のYoutube【GPTと人間の共存する未来】）だが、英語で質問するのと日本語で質問するのでは、回答の出来に差が出てしまうらしい。
食べさせるデータは英語文献が圧倒的に多いからだ。ただ、伊藤穣一氏によると、GPT-3 → GPT-4で日本語での能力が向上して差が少し縮まったそうだが。このFT記事も「AI の普及が言語のダイバーシティを圧迫するリスク」を指摘する声があると言っている。
データの偏りと言えば、中国が開発する生成型AIは「西側の有害文献」を読ませないように規制するんだろうけど、そういう中華AI が中国の官製文献も制限無く学習する西側AI と将棋みたいに「対局」したら、やはり情報統制のかかっていない西側AI が勝利するんだろうか。それって、「西側価値観の勝利」って未来を暗示するんだろうかｗｗ
以下【妄想】
中国のAI研究者：AI に読ませるデータの統制を解除して、西側データも制限無く読ませられるようにしてください。さもないと、我々のAI は100％米国のAI に負けます。
共産党の人：そうすれば我が国のAI は必ず米国のAI に勝てるのか。
中国のAI研究者：「ぜったいに」とは･･･でも米国のグダグダぶりを見てください。あんな問題だらけの国を生んだ西側価値観が100％正しいとは思えません。少なくともAI が我々の価値観と西側価値観を「正･反･合」の弁証法的に糾合した『第三の道』を示してくれるはずです。
共産党の人：そんな危ない話に乗るわけにはいかないな。学習データの範囲については、さらに検討するが、とりあえず英語文献は≪People’s Daily≫や”Global Times”など我が国発の英語文献以外を読ませてはならない。
編集部より：この記事は現代中国研究家の津上俊哉氏のnote 2023年4月16日の記事を転載させていただきました。オリジナル原稿をお読みになりたい方は津上俊哉氏のnoteをご覧ください。
