生成AIへの投資が世界的に加速しているが、その華々しい成長の裏側で、莫大な計算資源と電力を浪費する非効率なシステムが構築されている。
The Atlanticのアレックス・ライスナーは、生成AIを「驚くほど非効率な1兆ドル規模のプロジェクト」と批判している。
LLMの性能向上は逓減するがコストは逓増する
ChatGPTやClaudeなどの大規模言語モデル（LLM）は、大量の高性能メモリーとストレージを必要とする。AI企業による部品調達が急増した結果、メモリーやハードディスクの供給が逼迫し、価格が上昇しているという。データセンターの建設も猛烈な勢いで進み、米国では今後数年間で処理能力を現在の8倍に増やす計画がある。
電力需要も急増しており、一部ではジェットエンジンを発電設備として転用する構想まで浮上している。動画配信やスマートフォン、クラウドサービスも巨大な計算資源を使ってきた。しかし、それらは利用者が増えるにつれて1人当たりのコストが下がるように設計されていたが、生成AIはその常識から外れている。
通常のインターネットサービスでは、利用者が1,000人から100万人に増えても、追加利用者1人当たりの費用は低下する。これが「規模の 経済」であり、IT企業が急成長できる理由でもある。これを業界用語でスケールするという。
LLMも、初期には訓練データを増やすと効率が急上昇するスケーリング則があると思われていた。ところがLLMは、処理する文章が長くなるほど速度が低下し、必要なメモリーと計算量が急増する。
モデルそのものも巨大化している。生成AIのパラメーター数は、2020年の1,750億から、現在では1兆を超えたと推計されている。大きなモデルほど性能が高いという経験則から、AI業界ではモデルと計算能力を拡大すれば、いずれ知能が生まれるというスケーリング則が信仰されてきた。
しかしAIモデルの運用コストを実測したデータによると、モデルを大きくするほど、生成コストは大きくなる。わずかな性能向上のために、さらに大量の資金、半導体、電力が必要になるのだ。これは経済学ではありふれた収穫逓減（規模の不経済）である。なぜこんなことになるのか。
100万トークンあたりの生成コスト(Epoch AI)
続きはアゴラサロンでどうぞ（初月無料）
コメント