da-kuk/iStock
AIを便利に使っている人でも、ある日突然「あれ、さっき言ったことを忘れてる」「なんで今日は違う答えが返ってきた？」「この回答、なんか変だ」と戸惑う瞬間が来る。
設定を変えたわけでも、AIが壊れたわけでもない。AIには構造上の「癖」があり、それを知っているかどうかで感じ方がまったく変わる。
前回紹介した3つは、今日から使える実践スキルだった。
今回紹介するのはAIという道具の性質を理解するための知識だ。覚えて何かをするというより、知っておくだけで「なぜそうなるのか」が腑に落ち、余計なストレスがなくなる。
1. AIには「記憶の限界」がある
人間との会話と、AIとの会話には決定的な違いがある。AIは会話を重ねても、記憶が積み上がっていかない。
正確には、AIが一度に「見渡せる」情報の量には上限がある。会話の履歴、自分の送ったメッセージ、AIの回答——これらすべてがこの範囲に収まる分しか参照できない。
現在の主要なAIはかなり大容量で、日本語の文庫本なら数十冊分に相当するテキストを一度に処理できる。しかしいくら容量が大きくても、もう一つ厄介な問題がある。AIは中間部分を読み飛ばしやすいという性質だ。
長い会話の冒頭と末尾には強く反応するが、中ほどに書いた重要な条件や指示は見落とされやすい。「ちゃんと伝えたのに」と感じるときの多くは、この問題が原因だ。また、会話が非常に長くなると古い情報が「範囲外」になり、文字通り参照できなくなる場合もある。
対策は二つだ。重要な前提は毎回メッセージの冒頭に書き直す。会話が長くなったら新しいチャットを始める。AIは都合よく「覚えていてくれる」相手ではない。そう理解した上で付き合うことが大切だ。
2. 「毎回違う答え」には理由がある
同じ質問を何度かAIに投げると、微妙に違う回答が返ってくる経験をしたことがあるはずだ。バグでも気まぐれでもない。AIには回答のランダム性を調整する仕組みが存在し、意図的にブレを持たせている。
ランダム性が低いとAIは最も確率の高い「無難な答え」を選ぶ。毎回ほぼ同じ回答が返ってくる。コードの生成や事実の確認など、正確性が求められる場面に向いている。ランダム性が高いと、AIはあえて予測しにくい選択肢も取り混ぜながら回答を生成する。毎回違う答えが返ってくる。ブレインストーミングや創作のアイデア出しに向いている。
多くのサービスではこの設定がユーザーに見えない形で自動調整されている。だからあなたが何も変えていないのに回答がブレるのは、サービス側の設計によるものだ。逆に言えば、同じ質問を数回投げて最も良い回答を選ぶ、という使い方はこの性質を賢く活かしたやり方だ。
創造性と正確性はトレードオフの関係にある。AIに「毎回同じ答えを出せ」と要求するのは設計上難しいことだと知っておくだけで、余計なストレスが減る。
3. AIは「検索エンジン」ではない
最近のAIは「今日の天気」も「最新ニュース」も教えてくれる。だからこそ誤解しやすいが、AIの根本は検索エンジンとは別物だ。
AIの核心は「次に来るべき言葉を予測すること」だ。ChatGPT、Claude、Gemini——名前は違うが、根本的な原理はすべて同じだ。書籍・ウェブ・論文などのテキストを膨大に学習し、「こういう流れのあとにはこういう言葉が来る」というパターンを覚えた、いわば文章予測装置として作られている。
検索エンジンはリアルタイムでウェブを参照する。AIは学習済みのパターンから回答を生成する。最近はその両者が組み合わされ、AIが検索結果を参照しながら回答するサービスも増えた。便利になった一方で、根本が「生成AI」である以上、ハルシネーションのリスクは消えていない。どんなに賢く見えても、信頼して検証を怠ると足をすくわれる。
最新情報は検索エンジンで裏を取る習慣を持ちながら、文章の作成・アイデアの壁打ち・資料の要約にはAIを使う——この仕分けが、AI活用の基本中の基本だ。
前回と今回で合わせて6つ。これだけを知っておけば十分だ。専門的な概念は開発者やエンジニアに任せればいい。まず今日、「ステップごとに考えて」という一言を一度試してみてほしい。小さな一歩が、AIとの付き合い方を変える。
尾藤克之（コラムニスト、著述家、作家）
■
23冊目の本を出版しました。日本初のClaude実用書です。
『3時間で身につくClaude活用術』（WAVE出版）
コメント