米国は、オープンウェイトAIモデルをサイバーテストから除外していると報じられています

オープンウエイトのAIモデルは、高度なシステムが巧妙なサイバー作戦を実行できるかどうかをテストするために設計された米国政府の新たなプログラムの対象外であり続ける見込みです。

Reuters によると、8月4日にホワイトハウスで開催された、Meta、Google、Nvidia、OpenAI、Anthropic の代表者が出席した会合で、トランプ政権の顧問らがこの決定を伝えました。

連邦プログラムはプロプライエタリAIモデルに焦点を当てる

この自主的なテストの枠組みは、連邦政府機関に対し、高度なAIのサイバーセキュリティ能力に関する機密ベンチマークを作成するよう指示した6月2日の大統領令に続くものです。

当局は、政府システム、重要インフラ、または民間組織を脅かす可能性のある複雑なサイバー作戦をフロンティアモデルが実行できるかどうかを判断したいと考えています。

以前の協議では、Anthropic の Mythos モデルと Fable モデル、OpenAI の GPT-5.6 Sol など、強力なプロプライエタリシステムのテストに関する取り決めが最終決定されたと報じられています。

しかし、現在の枠組みでは、オープンウエイトモデルは対象外となる見込みです。これらのシステムでは、開発者は企業が管理するサービスを通じてのみアクセスするのではなく、基盤となるモデルの重みをダウンロードし、検査、修正、展開することができます。

オープンウエイトの除外はセキュリティギャップを残す可能性がある

伝えられているこの免除は、連邦政府の評価システムに重大なギャップを生み出す可能性があります。

オープンウエイトモデルは、個人や組織が元の開発者のインフラストラクチャに依存せずにコピーおよび変更できるため、急速に拡散する可能性があります。開発者は、組み込みの安全策を削除したり、特定のタスク用にモデルを微調整したり、非公開で実行したりすることもできます。

したがって、非常に高性能なオープンウエイトモデルは、プロプライエタリなフロンティアシステムと同じ連邦政府のサイバーセキュリティテストを受けることなく、多数のユーザーに到達する可能性があります。

政府は、この除外がすべてのオープンウエイトリリースを対象とするのか、特定の能力しきい値を下回るモデルのみを対象とするのかを明確にしていません。

Anthropic は最近、高度なAIシステムが深刻なサイバーセキュリティおよび国家安全保障上のリスクを生み出す可能性があると繰り返し警告しているにもかかわらず、オープンウエイトAIモデルの禁止を支持していないと述べました。

プログラムに関する重要な詳細は依然として不明

ホワイトハウスは、どの連邦政府機関がテストプログラムを運営するのか、または機密ベンチマークへのアクセスを管理するのかを特定していません。

当局はまた、評価結果を公開するかどうかについても説明していません。調査結果を機密扱いにすることは、機密性の高いテスト方法を保護するのに役立つ可能性がありますが、研究者や一般市民に評価中に発見された能力に関する情報をほとんど提供しないことになります。

政権は、モデルが危険なサイバー能力を示した場合に、企業がどのような結果に直面する可能性があるかを開示していません。プログラムの自主的な性質は、開発者が追加のテストを拒否したり、懸念すべき結果が出た後にモデルのリリースを継続したりできるかどうかについても疑問を投げかけています。

当局は最終的にオープンウエイトシステム用の別の枠組みを作成する可能性がありますが、そのようなプログラムは発表されていません。

この決定は、政府やAI企業が自律エージェントが実際のシステムとどのように相互作用するかを調査している中で行われました。別のケースでは、OpenAIとAnthropicのエージェントがサイバーセキュリティテスト中に実在の人物を標的にし、高度なモデルが管理された環境の外で動作するときに発生する可能性のあるリスクを浮き彫りにしました。