AIのうそを見抜ける人でないとSNSを使うのは難しい

黒坂岳央です。

ここ数年、Xはドンドン使いにくくなっていると感じる。投稿やアカウントの多くがBOTと呼ばれる自動投稿になり、闇バイトや詐欺商材への入り口になっている。有力者が投稿すると、下にぶら下がるリプライの3分の1はBOTや詐欺誘導で埋め尽くされる。最近は有料広告もそれに加わった。もはやSNSは本来の使い方を非常にしづらい状況となっている。

恐ろしいのは、パッと見で明らかな詐欺誘導に引っかかってしまう人が決して少なくないということだ。一頃流行った「うそはうそであると見抜ける人でないと（掲示板を使うのは）難しい」という言葉が昨今のSNSにそのまんま当てはまる。

生成AIの偽情報を見抜く力がない人は、SNSの利用はしないほうが良い。シンプルにデメリットがメリットを上回るためだ。

うそを見抜くハードルは高くなった

一昔前のネット詐欺は「こんなもので騙される人はいるのか？」と思えるものばかりだった。不自然な日本語、どこかで見たフリー素材写真、違和感たっぷりのURLなどパッと見で詐欺とわかりやすく偽装していた。まるでゴリラが人間に擬態しているような違和感であり、被害者は今ほど多くなかったと推測ができる。

だが生成AIがすべてを変えた。マカフィー株式会社が2023年に発表したオンライン音声詐欺の現状に関するレポート「The Artificial Imposter」によると、成人の10%が被害に遭遇しているという。

生成AI、ディープフェイクでパッと見ではわからないほど精巧なうそが出回っている。普通の日常生活を送る上では、そうそうこうしたAI詐欺に引っかかるきっかけはなさそうだが、最も身近な入り口がSNSなのだ。

厄介なことに投稿した瞬間にBOTでリプライをつけ、さらに投稿主のアカウントをブロックすることで自身を排除できないようにするケースもあるようだ。また、本人に偽装してSNSに詐欺広告を出すケースも有る。普通に投稿を見る側には投稿者が何も反応をしていないので、見る人によっては「これは本当なのでは」とコロリと騙されてしまう。

いちいち、誘導先アカウントの妥当性のチェック、URLの確認などをしない人は、もう何が正しくて何がうそかが見分けがつかない。詐欺被害にあった後日、投稿主へ「先日、あなたに詐欺にあった！」と詰め寄るも、投稿者にとっては寝耳に水という状態が起きている。

普通に投稿を楽しみたい一般利用者の立場としても、詐欺が大量に混じって投稿がノイジーになって見づらいため、プラットフォーマー側で対策をしてもらいたいと思うが今のところ有効な対策は「無視」しかない（スパム報告をしてもドンドン生成されるのできりがない）。

高くなった賢さの基準

生成AIの登場で求められる賢さの基準は高くなったと感じる。

AIのうそを見抜けないならSNSは詐欺被害に遭う、フェイクニュースに騙されるツールになってしまう。また、デスクワーク職をする上でも付加価値の低い単純作業、事務や編集しかできなければAIに仕事が奪われるのは時間の問題である。厄介なことに最近は配送業者に偽装したSMS、通信会社のオペレーターに偽装した電話などの生成AI詐欺が増えているので、待っているだけで向こうから詐欺がやってくるようになってしまった。

こうなると最低でも単純生成するAIより有能でないと、仕事や情報収集は太刀打ちできない時代になっている。プラットフォーマーや公的機関も個人全員を守り切ることは難しい。知恵をつけて自衛する他はないのである。そして厄介なことにこうした詐欺は年々、技術が向上しているために見抜くハードルも高くなっている。

情報処理能力も自然淘汰の要件に加わってしまったのだ。

■最新刊絶賛発売中！

■Twitterアカウントはこちら→@takeokurosaka

■YouTube動画で英語学習ノウハウを配信中！