Claudeを開発する米Anthropicは、9月10日に公表した脅威インテリジェンス報告書で「中国のMoonshot AIとDeepSeekが、一部のユーザー入力を密かにClaudeに転送し、その回答を盗用していた」と明らかにした。
Kimiの裏側でClaude Opusが回答
Anthropicによると、Moonshotは大量の偽アカウントを使ってKimiへのユーザー入力をClaudeに転送し、その答をKimiの答として表示していた。10日間に約30万件の顧客リクエストがAnthropicに送られ、Claudeの高性能モデルOpusで処理されたという。
アクセスには5380の不正アカウントからなるプロキシ網が使われ、その多くはシンガポールや日本から接続しているように見せかけていた。Moonshotは、こうしたやり取りの一部を保存し、Kimiの学習に利用していた。5月から7月までにMoonshotによる「蒸留」のやり取りは2300万回を超えた。
DeepSeekも一部ユーザーをClaudeへ転送
DeepSeekにも似た仕組みが見つかった。Anthropicによれば、DeepSeekはClaude CodeやClaude Agent SDK、OpenCodeなどの開発ツール経由でDeepSeekを利用しているユーザーを識別し、そのうち選ばれたリクエストをClaude Opusへ転送していたという。
7月の14日間だけで、DeepSeekに帰属する蒸留アクセスは1210万回を超えた。目的は単にClaudeの答を利用するだけではなく、その思考過程に相当するデータを抽出し、自社モデルの訓練材料として収集しようとしていたらしい。つまりClaudeに問題を解かせ、その答案だけでなく解き方まで盗んで生徒に覚えさせたわけだ。
人民解放軍の機密情報まで米国に流出
深刻なのはプライバシー問題だ。Kimiを使った中国企業の技術者が、社内システムを構築するためにパスワードや認証情報を入力したところ、それがClaudeまで送られていた。また中国人民解放軍の成都の多数の監視カメラ映像をKimiに分析させたケースでも、データはClaudeへ転送された。
DeepSeekでは、中国企業のAIプロジェクトの内部仕様や組織構造のほか、中国公安当局向けシステムの情報、さらにはロシア国防省系機関のデータベースに接続する実際の認証情報までClaude側に届いたとされる。
中国政府や企業が安全保障上の理由から米国製AIを警戒する一方、中国製AIに入力した機密情報が裏口から米国のClaudeへ届いていたとすれば皮肉な話である。
「安くて高性能な中国AI」の裏側
AI業界では、高性能モデルの出力を使って小型モデルを学習させる「蒸留」は一般的な技術であり、Anthropicも蒸留を利用している。問題はAnthropicの利用規約や地域制限を回避するために偽アカウントをつくり、その入力を盗用していたことだ。
2025年以降、DeepSeekやKimiは「中国はわずかなコストで米国の最先端AIに追いついた」と世界を驚かせた。そのコスト競争力を理由に、OpenAIやAnthropicの巨額投資モデルは時代遅れだという議論さえ出たが、その裏側で、高価なClaude Opusに問題を解かせて吸い上げていたわけだ。
生成AIでは、画面に表示されているブランド名と、実際に裏側で計算しているモデルが同じとは限らない。今回の問題が示した最大の教訓は、AIの入力が最終的にどこへ送られるのかはユーザーには確認できないということである。AI時代には、モデルの性能競争だけでなく、本当は誰が答えているのかさえわからないのだ。
コメント