Google、Microsoft、Elon Musk氏率いるxAIの3社が、米政府機関に対して未公開のAIモデルへの早期アクセスを提供することで合意しました。一般公開前に国家安全保障上のリスクを洗い出す「事前安全審査」の仕組みが、AI業界全体に広がりつつあります。
審査を担うのは商務省傘下のCAISI
今回の取り組みを主導しているのは、米商務省傘下の「Center for AI Standards and Innovation（CAISI）」です。Android Headlinesによると、CAISIはすでに最先端のAIモデルに対して約40件のレビューを実施しており、その中には一般にはまだ公開されていないモデルも含まれています。
これまでOpenAIとAnthropicはすでにこの枠組みに参加していましたが、今回の合意によってGoogle・Microsoft・xAIという業界の主要プレイヤーが新たに加わりました。Microsoftはさらに踏み込んで、政府の科学者と協力し、共有データセットやストレステスト用のワークフローを使ってAIモデルの「予期しない挙動」を調査していることを公式に認めています。
引き金となったAnthropicの「Mythos」
この動きが急加速した背景には、Anthropicが開発中とされる新モデル「Mythos」の存在があります。Android Headlinesによると、Mythosはサイバーセキュリティの観点で現行技術を大幅に上回る能力を持つ可能性があると報じられており、ハッカーの攻撃能力を飛躍的に高めるリスクをワシントンの当局者や企業が懸念しているとされています。
Anthropic自身もその危険性を認識しており、アクセスを制限したうえで、現時点では一般公開に踏み切っていません。強力なAIモデルを「信頼してください、安全です」という姿勢で世に出す時代は終わりつつある、とAndroid Headlinesは伝えています。
安全ガードレールを外した状態で審査
審査の内容も注目に値します。CAISIがモデルを受け取る際、開発企業は通常ユーザーが目にする製品版ではなく、安全ガードレールを取り除いたバージョンを提供します。これにより、モデルが限界まで使われた場合に何ができるかを政府側が正確に把握できる仕組みです。
審査の対象はサイバー攻撃への悪用可能性から軍事的な転用リスクまで多岐にわたり、大規模な一般展開の前に脅威を特定することが目的とされています。企業が政府機関に対してここまで踏み込んだ透明性を示しているとAndroid Headlinesは報じています。
なお、今回のソース記事には重量・バッテリー容量・価格といったハードウェアスペックに相当する数値は含まれておらず、記事中で明示できる具体的な定量データは「約40件のレビュー実施」のみです。この数値はCAISIが公表している実績として、Android Headlinesが引用しているものです。
Q&A
Q. CAISIとはどのような機関ですか？ CAISIは米国商務省傘下の組織で、AIの標準化と安全性評価を担当しています。すでに約40件のAIモデルレビューを実施しており、一般未公開のモデルも審査対象に含まれています。
Q. Anthropicの「Mythos」はいつ一般公開されますか？ 現時点では一般公開されていません。Anthropic自身がアクセスを制限しており、公開に踏み切れていない状況です。公開時期については現時点で確認されていません。
