ディープフェイクとどう戦うか？

アバター画像
岡本 裕明

「2030年代のある日、日本はAI詐欺で未曽有の混乱となっていた。AI電話、AIテキスト、AI会議で世の中、何が本当で何がウソかわからなくなり、人が人を信用できなくなり、個人の通帳の預金からはいつの間にか残高が無くなり、人々はノイローゼになり、自殺に追い込み、勘違い殺人事件も頻発した」。これは三文SF小説ではなく、いかにも起きそうなAIが招く大混乱であります。

ディープフェイク画像の素材となった岸田首相の画像

生成AIは社会に浸透し始めました。企業ではそれを取り入れ始めており、既に活用しているところでは一定の成果があったとされます。先週号の日経ビジネスの特集は「経営に効く　AI実装のコツ50　先進20社の苦労と学び」と題し、一部大手企業が全社的に生成AIやチャットGPTをベースに各社ごとにデータを読み込ませ、業務の効率化や改善につなげていると報じています。

私の読後感は正直微妙でした。なぜなら会議の主役は生成AIであり、決定権は生成AIにあるのです。これは想像ですが、会議に出席して販売方針なりセールス戦略を論じている際に「AIの分析ではこうなっている」という報告があれば部長から平社員までそれを否定する術がないのではないかというのが私の想像であります。

もしもAIが打ち出すリコメンに対して「それは違うだろう」と論理性をもって会議出席者を説得できる人がいれば私は相当優秀かあまのじゃくのどちらかだろうと察します。基本的にデータベースの積み上げですからそれが間違っているとは言えないわけです。ただし、これは過去のデータを積み上げたものの分析であり、将来を約束するものではない、よって業務の改善にはつながるけれど、目新しさ、つまり今までにない手法を編み出すのは難しいのだろうと思います。

一方、生成AIは人々の常識感をほぼ全て覆そうとしています。例えばですがルーブル美術館に今展示されている絵画を全て模倣し、それを上野の国立美術館で再現し、ウェブ上ですべての人にアクセス可能なようにせよとか、ビルボードトップ100の曲を過去20年分分析し、ジャンルごとにヒットしそうな曲を10曲ずつ作詞作曲し、ディープフェイクでつくる最も人気あるアーティストにそれを演奏させよ、さらには芥川賞と直木賞と本屋大賞の過去10年分の作品を読み込み、時代のトレンドを考察したうえでノーベル文学賞を狙えるような作品を作れ、ということもできるでしょう。

こうなると画家も音楽家も小説家もおまんまの食い上げです。例えば私のこのブログだって誤字脱字が多いと指摘されもう書きたくないと思ったとき、生成AIに過去のブログを全部読ませ、本日のニュースを読ませればそれなりの生成AIブログができると思います。ただ、もしもそれをやった時、読者層はついてこないだろうと思います。なぜならお前はいつも変なことを書くから面白いのじゃ、と思ってくれる人がある程度はいらっしゃるわけでおり、そのために「あら捜し特捜隊」が毎日ご出動されるわけです。もしも完璧な文章で文脈も記載内容にも一点の曇りもないとすればコメント欄は閑散とし、「どうせ、これ、生成AIが作っているんでしょ。ならファンになれないな」ということになりやしないでしょうか？

ディープフェイクがもっとも脅威になるのはオレオレ詐欺だと思います。日経に「会議相手はフェイク動画、40億円被害が示す詐欺AIの進化」と題する記事があります。英国の会社でディープフェイクのテレビ会議が設定され、本当の経理担当者がそれに参加すると社のディープフェイクのCFO（財務最高責任者）や他の同僚何人かが出席していて資金を〇〇に40億円振り込んでくれ」というのを経理担当者に指示するというものです。その担当者はフェイク会議に騙され、お金を振り込んだのです。

「AIゆりこ」を見たことがある方もいらっしゃるでしょう。よくできています。小池百合子氏にすれば「クローン版ゆりこ」ともいえるのでしょう。ではそのAIゆりこが突然ウソのメッセージを発信し始めたらどうでしょうか？見ている人は皆信じているわけですからあっさり騙されるわけです。

私は生成AIを反対しているわけではないのです。ただ、善意もあれば悪意もあるということ、それ以上に人間が本来持つ能力を開拓したり発掘できるのかなぁ、という素朴な疑問があるのです。もしも人々が「AIに聞いてみよう」と安直に思うようになれば人々は考える、チャレンジする、失敗することが無くなるでしょう。技術は進化するかもしれませんが、人間の成長は止まるかもしれないと憂いています。私の勝手な邪推であればよいのですが…。

江戸時代など昔の人は空を見て天気を予想していました。船乗りの人は特にその能力が長けていたとされます。今の人は空を見てもそんなことは全くわかりません。人間が持てる能力がいかに開拓されていないかという好例でしょう。

では今日はこのぐらいで。

編集部より：この記事は岡本裕明氏のブログ「外から見る日本、見られる日本人」2024年7月2日の記事より転載させていただきました。