高松市で開かれたG7の情報通信相会合で「人工知能(AI)の悪用を防ぐルール」の策定が決まったという。高市総務相は「AIはいずれ人間の知能に並び、社会・経済に革命的な変化をもたらす」と述べたそうだが、本書を読めばAIがそんな段階には達していない（達するかどうかも不明）ことがわかるだろう。
著者によれば、AIは「第3次ブーム」だという。第1次は1960年代で、「鉄腕アトム」みたいな人間と同じような知能をコンピュータにもたせることができるという夢があったが、そのはるか手前で挫折した。第2次は80年代の「第5世代コンピュータ」のころで、これも成果を生み出さないで終わった。
その本質的な原因は、フレーム問題として60年代から知られている。たとえば「美術品を部屋から取り出せ」という作業を実行するだけでも、台車を動かしても天井は落ちてこないか、部屋の電気は消えないか…など無数のフレームがあり、それをすべてチェックすると組み合わせの爆発が起ってしまう。
これを「知識ベース」の導入で解決しようとしたのが第5世代だったが、これも挫折した。自然言語だけに限っても、チョムスキー的なアルゴリズムで処理できる知識はごくわずかで、ほとんどが例外処理だからである。これは一つ一つ人間がインプットするしかなく、そのアウトプットよりはるかに膨大な作業が必要になる。
第3次ブームは、この知識ベースを学習によって自動的に蓄積しようというものだが、ニューラルネットの性能は人間の脳とは比較にならず、行き詰ってしまった。それを解決できるかもしれないと期待されているのが、本書のテーマであるディープラーニングだ。
これは今までの方法がシニフィアン（記号）からシニフィエ（意味）を学習するものだったのに対して、コンピュータがモデルとしてシニフィエを決め、それに適合するシニフィアンを集めるものだ。行動経済学でいうと、コンピュータが「フレーミング」を決め、それに従って学習するわけだ。
しかし著者も認めるように、その効果は限定的で汎用性もない。AIが将棋とか碁で人間に勝ったことは、電卓が人間より速く計算できるのと同じで、脳の本質的な機能とは無関係だ。これを混同している人が多いが、現状ではコンピュータが「知能」といえるものをもつ見通しはない。
そもそも脳の情報処理の大部分は「システム1」で反射的に行なわれているので、人工知能という言葉がミスリーディングだ。政治家が「AIバブル」に踊る一方で、著者のような最先端の専門家がAIの有効性について慎重な見方をとっていることは参考になる。
