米中間でAIをめぐる新たな連絡経路が設けられるのであれば、日本も「その外側」に置かれる可能性を前提に、独自の対応を準備しておかなければならない。重要なのは、単に米中の動きを追うことではなく、AI事故やインシデントが発生した際に、情報を共有し、原因を分析し、必要な対応につなげられる仕組みを日本国内にも整えることである。
なお、ホワイトハウスの表現は「hotline」ではなく、「bilateral communication channel for SI incidents」である。SIはsuper intelligenceの略で、トランプ政権がAIを指して用いる言葉だ。本稿では便宜上、これを「ホットライン」と呼ぶ。
第一に、日米間のAI事故情報共有の仕組みを整えるべきである。米中間の「ホットライン」が実際に機能するかどうかにかかわらず、AIの事故や異常事象は国境を越えて発生しうる。日本政府は、米国側とAIインシデントに関する情報を共有できる窓口を設け、米中間の連絡経路とも接続できるようにしておきたい。
第二に、AI事故についての国際的な共通基準と、日本国内の報告・集約体制を整えるべきである。何を「AI事故」と呼ぶのか、どの程度の事象を政府に報告するのか、どの情報を国際的に共有するのかについて、一定の技術的な共通基準が欠かせない。
日本は広島AIプロセスを主導し、日本版AISI（AIセーフティ・インスティテュート、J-AISI）も設置している。こうした経験を生かし、AI事故の分類や評価について、国際的に通用する技術的な基準づくりに貢献できる。国内では、OECDのAI事故報告の枠組みや、ISO/IEC 42001に基づく組織内の管理体制を土台に、重要インフラのサイバーインシデント報告に近い形で、AIに関する重大インシデントを政府が把握・集約する仕組みを検討すべきだ。
第三に、日中間にもAIをめぐる対話と連絡経路を設けるべきである。日中の防衛当局間には、偶発的な衝突を防ぐための「海空連絡メカニズム」がすでにあり、2023年には専用のホットラインも開設された。これにAIの事故や安全性、生成AI・基盤モデルのリスクを扱う経路を加えることが考えられる。政府間協議だけでなく、研究者や企業を含むTrack 2の対話を並行して進めれば、政府間の関係が悪化した場合にも一定の意思疎通を維持できる。
こうした取り組みには、筆者が副所長を務めるMIT CAMSのような研究機関も貢献できる。AI企業の技術報告書、独立研究機関の調査、実際に発生したインシデントの技術的分析をつなぎ、AI事故の分類や評価方法をめぐる国際的な議論に知見を提供することができる。政府だけでなく、大学・研究機関・企業がそれぞれの専門性を持ち寄ることが重要である。
AIをめぐる事故や危機は、米中だけの問題ではない。AIシステムが国境を越えて利用される以上、事故情報の共有、技術的な評価、緊急時の連絡経路は、日本にとっても直接的な課題になる。米中間の新しい「ホットライン」が本当に「鳴る電話」になるかを見守るだけではなく、日本自身がAI事故への対応能力と国際的な情報共有の仕組みを整えておくことが求められている。
コメント