遊び道具としてならAIもおもしろく使えるが……

こんにちは。

あと2～3日で発売される最新刊の拙著『生成AIは電気羊の夢を見るか？』の結論は、人間の命とか資産とかの重要なものを扱うには、ときどき陥る幻覚症状（hallucination）が恐くて生成AIは使えないが、遊び道具としてはいろいろ応用範囲が広そうだということでした。

生成AIの幻覚症状については、少なくとも現在の技術水準ではどうすれば根絶できるかと考えるのは非現実的で、どうすればAIに幻覚症状を起こさず、気持ちよく働いてもらえるかを工夫するしかないというコンセンサスができつつあります。

そこで今日は、仕事上の相棒としてはもちろんのこと、遊び仲間としてもけっこう厄介な存在になりそうなAIとの付き合い方について、いろいろ考えてみたいと思います。

brackish_nz/iStock

「楽をして高い知的能力を要求される仕事ができる」は幻想

まず、幻覚症状を起こさず機嫌よくAIに働いてもらうための6つのアドバイスをご覧ください。

AIは「どう答えたらいいかわからないけど、できるだけ指示を出してくれた人が喜ぶような答えを出したい」と思ったとき、つごうのいいウソをつく傾向があるそうです。

ですから、「自分ではとうてい思いつかないようなすばらしいアイデアを考え出してほしい」という質問をすると、ウソの答えが返ってくる危険が大きくなります。自分で選択肢を指定するわけですから、自分の想像力の範囲内の答えしか返ってこないことがわかります。

この第1項目でもう、自分ひとりではできなかったことがAIを使えばできるというのは、運良くそうなることはあったとしても、基本的には幻想にすぎないと納得していただけるでしょう。

次は、楽をして成果をあげられるという幻想です。これも、データはできるかぎり自分で探し集めたものをAIに投入しましょうということで、あっさり否定されてしまいます。

実際、データ収集をAIに任せたら、返ってきた答えについていちいちほんとうに存在するデータから導き出した答えなのか、架空のデータから都合良くひねり出した答えなのか調べなければならないので、かえって仕事量が増えてしまうのではないでしょうか。

3番目は、生成AIならプログラム言語を使わず日常話しているとおりのことばで指示を出しても答えてくれるという、まさに画期的な特徴の限界についてです。たしかに、生成AIは数式をそのまま問題として出したときだけではなく、いわゆる文章題にも答えてくれます。

でも、「ある値段のものをいくつ買って、次に別の値段のものを別の量買って、さらに違う値段のものをやはり違う量を買ったら、合計いくらの買いものをしたことになるか」といった文章で訊くと、単純な計算を間違えることが多いのだそうです。

だから、品物ごとに値段と数量を書き出して、それぞれ掛け合わせて1品当たりの小計額を確認してから、全部合計するといくらというふうに、表計算プログラム的なひな型をつくってやる必要があるということです。

4番目は、漠然とした相談を持ちかけると、AIがありもしない会社の営業マンになってセールストークで答えてくることもあるからご用心ということです。

「ペットショップを経営しているけど、お買い上げいただいたペットをお客様の自宅に届ける配送能力はない。どうしたらいいか？」と聞いたら、「どんな生きものでも安全に客先までお届けする弊社にお任せを」という答えが返ってきたという例が紹介されていました。

もちろん、現実にそういう会社が存在するわけではなく、AIがストックしていたデータの中からさまざまな運送会社の宣伝文句をつなぎ合わせて答えただけです。

5番目も重要で、まったく実現性がないような答えを延々といくつも並べられたら、その中から実際にやってみる価値のある答えを探すのに時間がかかるでしょう。

6番目は、私にもちょっと意外な項目でしたが、そうとうな電力を使うので生成AIは発熱する傾向があり、あまり暑いところで仕事をさせると間違いが増えるのだそうです。

使う場所の室温まで考えてやらなければならないとなると、AIは助手としてもあまり使いやすい相手ではなさそうです。

生成AIの幻覚症状を考えるとき、やはりいちばん重要なのは「AIは指示を出した人間が喜びそうな答えを出したがる」という特徴でしょう。

停止中の車に激突することが多い自動運転システム

最近では「完全自律走行の実現まであと何年」といった威勢のいい表現を訊くことが少なくなりましたが、たとえばテスラ車のオートパイロットのような補助的な自動運転システムでさえ非常に事故が多いのは、この問題がからんでいるからではないでしょうか。

次の図表は、2019年から今年の8月までにテスラ車が関わった衝突事故と、その結果出た犠牲者数の概要です。

お膝元のアメリカでもテスラ車は高額なので、それほど多くの台数が走っているわけではありません。その中で、オートパイロットを使って走行中だったテスラ車がこれほど多くの衝突事故を起こしているのですから、事態はかなり深刻です。

中でも問題なのが、事故などで路肩に停車中の車とその前後に停めてあるパトカーや救急車にオートパイロット走行をしていたテスラが激突したという事故が多いことです。

テキサス州モンゴメリー郡で起きた、警察官5人と最初に事故を起こして停車していた車の運転者、計6人に重軽傷を負わせた事故の例を、写真と文章の組み合わせでご紹介しましょう。

オートパイロットシステムでは、走行している車両の位置や速度は位置測定アプリで確認し、静止している建物や自動車はカメラで確認することになっています。

静止しているものまで位置測定アプリを使うと、処理しなければならない情報量が多くなりすぎて収拾が付かないからという理由での便宜上の振りわけでしょう。

ところが、とくに夜道では静止している車がフラッシュライトを点滅させていても、カメラ自体がかなりのスピードで走っているクルマの中にあるので解像度があまり良くならないので、ネオンサインを点滅させている建物と区別が付かないことがあるそうです。

もし建物と判断すると、建物が路上にはみ出しているわけはありませんから、事故現場と知らずに通り抜けようとしてしまいます。

その背景として、自動運転アプリを動かしているAIには「クルマに乗っている人はとにかくクルマが動いている状態が好きだ」という固定観念があるのではないでしょうか。だから交通量が少ないので速度を落として路肩に寄せても安全なところでも通り抜けようとします。

建物のネオンが点滅しているのではなく、緊急車両のライトが点滅しているとわかって慌てて手動運転に切り替えてハンドルを切ったときにはすでに遅く、追突していたということになります。

というわけで、幻覚症状が払拭できないうちは命や資産に関わる重要な決定をAIに委ねてはいけないと思っていたのですが、最近もうひとつ判断の即時性が要求される仕事もAIに任せてはいけないと考えるようになりました。

トヨタ全国工場の一斉休止もAIがらみ？

今年の8月末に、日本全国のトヨタ工場が一斉に休止に追いこまれる事態が起きました。まったくの憶測に過ぎませんが、私はこれも部品や資機材の発注をAIに任せたからなのではないかと思っています。

トヨタのAI導入はかなり早く、あまりにも製品の均質性が高いのでなかなか不良品のサンプルが手に入らず滞っていた検品システムを、AIの活用で少ない不良品サンプルを全社全工場で有効に共有することに成功したことから始まっています。

性能にはまったく問題はないけれども、どうも塗料が均等に塗られてないように見えるので製品として市場には出せないといった判断は、ベテラン社員の経験に任せるほかなかったのを、まずAIで粗選りしてそれからベテラン社員が確認するかたちで省力化できたわけです。

検品工程はあまり時間的に切迫していないので、それほど問題も生じなかっただろうと思います。しかし、ご自慢の「かんばん方式」でぎりぎり必要な量の部品や資機材を最短時間で発注し、調達するシステムで、AIが幻覚症状に陥ったら危ない綱渡りになりそうです。

次の記事の抜き書きでは、IT関連部門の発注をクラウドで一括処理するようにしたとなっています。

しかし、現代自動車産業では、EV（電気自動車）だけではなくエンジン（内燃機関）車もIT技術の塊のようになっています。

トヨタの国内全工場での稼働停止が、そのためだったかどうかはわかりませんが、AIによって運行しているクラウドに発注を一括管理させるシステムには、つねにそういう危険がつきまとうのではないでしょうか。

というわけで、人命や資産に関わる仕事だけではなく、時間の切迫した仕事もAIに任せてはいけないのではないかと思うようになりました。

そこで、人命にも資産にも時間の切迫した仕事にも縁のないお遊び企画を探していると、以前「古今東西の偉人がスニーカーを履いていたら」シリーズでご紹介したMidjourneyという描画アプリで、世界各国の絵に描いたような美人を描くという企画に出くわしました。

これなら深刻な問題はなさそうに見えたけど･･････

全部で49ヵ国の空想上の美人を描き分けるというなんともお手軽な思い付きですが、全体を動画で紹介している中で、表紙とも言えるサムネイルに使っているのは、やはりフランス美人でした。

フランスばかりでなく、ヨーロッパ各国の美人はけっこう微妙なニュアンスまで気を遣って描き分けています。

左下のオランダ美人の場合、どこかでちょっとインドネシアの方の血が入っているのかなと思わせる顔立ちです。

また、昨今改めてヨーロッパに入るのか否かが問題とされ始めたロシア美人も、いかにも現代風にえらが張って意志の強そうな顔になっています。

驚いたのは、裏表紙とも言える2枚目の静止画像に採用されたのはナイジェリア美人で、しかも自信作だけあって、非常に魅力のある黒人らしい黒人の顔になっていたことです。

もうひとつの驚きは、現在欧米では非常に敵視されることの多い、北アフリカ・中東イスラム圏諸国の美女たちがとても好意的に描かれている中で、トルコの美女だけはちょっと時代錯誤と思えるほど古風に描かれていたことです。

私が知っているトルコ女性は、アメリカの大学院で猛勉強していた人たちも、多国籍企業で活躍していた人たちも、ヒジャブを被っているところなど想像もできないほど欧米化していたのですが、このへんには最近の移民をめぐる緊張が影を落としているのかもしれません。

それにしても、つい最近まで女性は夫か保護者が同乗していないと自動車を運転することさえ禁じられるほど抑圧されていたサウジアラビア女性が、アラビアンナイトの美女が現代に抜け出てきたかと思えるほどきれいに描かれています。

「イスラム圏がどう動こうと石油大国だけは手放したくない」というアメリカの思惑まで感じてしまうのは、うがちすぎでしょうか。

アングロサクソン圏に美人はいない？

残念な意味で驚いたのは、イギリスを母国とし、先住民を絶滅寸前まで追い込んで植民者として大成功してしまったアングロサクソン諸国の美女たちが「へえ、これが絵にかいたような美人？」と首をかしげるような絵になっていることです。

ご覧のとおり、オーストラリア美人とアメリカ美人は目元がわからないほど濃い色のサングラスをかけていて、美人と言えるかどうかの判別を拒否したいでたちになっています。

ちなみに、49ヵ国の中でほかにサングラス美人が出現するのはアラブ首長国連邦だけで、この国もなかなか異様な国ですが、最低限目元の表情が見える薄い色のサングラスをかけています。

また、カナダとニュージーランドの美人も、美人というよりは親しみやすい顔になっています。その理由は2つ考えられます。

ひとつは、世界中どこの国でも男どもは身の程知らずにも「自分の国には美人がいない」という不満を持っていて、コンピューター技術最先端産業もアングロサクソン系の男社会だということです。

もうひとつは、先住民を押しのけて白人主導の国にしてしまったことに後ろめたいものを感じているけど、さすがにマイノリティの美女を「我が国を代表する美女です」と紹介するほど偽善的にはなれないので、あまり華のない「白人美女」で落ち着いたということです。

そのへんの事情は、南アメリカ各国の美女と比較するとはっきり出ています。

おなじ南アメリカ大陸にあっても、政治的、経済的に大国と呼ばれる国ほど「白人度」が高いという描き方にはやや抵抗を感じます。

ですが、そうとうインディオの血が濃そうなペルーの美女を見ていると、少なくとも少数民族の処遇に関するかぎり、アングロサクソンが征服した北アメリカやオセアニアよりずっとマシだったとは言えそうです。

東南アジア美女までは同じ現代世界に生きているが

南アジアから東南アジアまで来ると、着ている服などにはかなり異国情緒が出てきます。

ですが、まなざしや口元には同じ現代世界で生きている女性たちだという感覚があります。

ところが、東アジアに来ると描写が一変します。とにかく現代女性という感じがしないのです。

中国美人は、現代人には見えないにしても清朝末期の混乱した時代に生きていれば革命運動の闘士になっていたかもしれないという意志の強さを感じます。

韓国美人は、いちばん現代に近い時代に生きていただろうという感じで、微笑みかけているのか、泣き出しそうなのをこらえているのか、とにかく感情の起伏は感じさせてくれます。

ところが、日本美人は大正時代までならこういう髷を結っていた人もいたかもしれないという中途半端な長さの髪を不自然に結って、顔は凍り付いたように無表情な微笑です。

どうして東アジアだけ、これほど時代錯誤的な描写がまかり通るのか、不思議です。あえて言えば、欧米人一般が共有している東アジアに関する先入観を1国を代表する美人の中に凝縮すると、こういう顔になるのかなということでしょうか。

そこで思いついたことがあります。Midjourneyに限らず、生成AIには世間一般で共有している固定観念、ステレオタイプをさらに強調し、増幅して刷り込む効果があるのではないかということです。

さらにこの考えを押し進めると、AIが幻覚症状を起こさないようになだめすかしながらお伺いを立てているうちに、AIを驚かせないような質問しかできないように調教されていく人間たちという構図が浮かび上がってきます。

オープンAIの創業CEO、サム・アルトマンはとうていビル・ゲイツやジョージ・ソロスのような筋金入りの巨悪ではありません。AIの幻覚症状は意図的につくり出した「疾患」ではなく、偶然噴出してしまったものでしょう。

しかし、巨悪の親玉たちは、この生成AIの幻覚症状も巧みに利用して、人類全体を従順な奴隷に飼い馴らす道具にしようとしているのではないでしょうか。

【関連記事】

• 開けてビックリ、好業績で割高さが再認識されたエヌヴィディア決算
• 自動車自律走行はGREAT PIE IN THE SKY（バカでかい絵に描いた餅）
• 90兆ドルに達したアメリカ民間部門総債務の山が崩れ始めた
• アメリカの銀行業界は、市場経済と統制経済の主戦場だった 後編
• アメリカの銀行業界は、市場経済と統制経済の主戦場だった 前編

■

増田先生の新刊「生成AIは電気羊の夢を見るか？」が絶賛予約受付中です。ぜひご覧ください。

生成AIは電気羊の夢を見るか？