US、オープンウェイトAIモデルをサイバーテストから除外か

報道によると、オープンウェイトAIモデルは、高度なシステムが高度なサイバー作戦を実行できるかどうかをテストするために設計された新しい米国政府のプログラムの対象外となる見込みです。

Reutersによると、トランプ政権の顧問らは8月4日、Meta、Google、Nvidia、OpenAI、Anthropicの代表者が出席したホワイトハウス会合でこの決定を伝えました。

連邦プログラムは独自AIモデルに重点を置く

この任意参加のテストフレームワークは、連邦機関に対し高度なAIサイバーセキュリティ能力に関する機密ベンチマークを作成するよう指示した6月2日の大統領令に基づいています。

当局は、フロンティアモデルが政府システム、重要インフラ、または民間組織を脅かす可能性がある複雑なサイバー作戦を実行できるかどうかを判断したいと考えています。

以前の協議では、AnthropicのMythosモデルやFableモデル、OpenAIのGPT-5.6 Solなど、強力な独自システムをテストするための取り決めが最終決定されたと報じられています。

しかし、現在のフレームワークではオープンウェイトモデルが対象外になると報じられています。これらのシステムは、開発者が企業管理のサービス経由でのみアクセスするのではなく、基盤となるモデルの重みをダウンロード、検証、変更、展開できるようにするものです。

オープンウェイトの除外はセキュリティギャップを残す可能性がある

この報告されている除外は、連邦政府の評価システムに重大なギャップを生じさせる可能性があります。

オープンウェイトモデルは、個人や組織が元の開発者のインフラに依存せずにコピーや変更ができるため、急速に拡散する可能性があります。また、開発者は組み込みの安全策を取り除いたり、特定のタスク向けにモデルを微調整したり、非公開で実行したりすることも可能です。

したがって、非常に高性能なオープンウェイトモデルは、独自のフロンティアシステムと同じ連邦サイバーセキュリティテストを受けることなく、多数のユーザーに到達する可能性があります。

政府は、この除外があらゆるオープンウェイトのリリースを対象とするのか、特定の能力しきい値を下回るモデルのみを対象とするのかを明確にしていません。

Anthropicは最近、高度なAIシステムが深刻なサイバーセキュリティや国家安全保障上のリスクを生み出す可能性があると繰り返し警告しているにもかかわらず、オープンウェイトAIモデルの禁止を支持していないと述べました。

プログラムに関する重要な詳細は依然として不明

ホワイトハウスは、どの連邦機関がテストプログラムを運営し、機密ベンチマークへのアクセスを管理するのかを特定していません。

当局は、評価結果を公表するかどうかについても説明していません。調査結果を機密に保つことは、機密性の高いテスト手法の保護に役立つ可能性がありますが、研究者や一般市民に、評価中に明らかになった能力に関する情報をほとんど提供しないことになります。

政権は、モデルが危険なサイバー能力を示した場合に企業がどのような結果に直面する可能性があるかを明らかにしていません。プログラムが任意参加であることも、開発者が追加テストを拒否したり、懸念される結果が出た後もモデルのリリースを続けたりできるのかという疑問を生じさせます。

当局は最終的にオープンウェイトシステム向けの個別のフレームワークを作成する可能性がありますが、今のところそのようなプログラムは発表されていません。

この決定は、政府やAI企業が自律エージェントが実際のシステムとどのように相互作用するかを調査している中で行われました。別の事例では、OpenAIとAnthropicのエージェントがサイバーセキュリティテスト中に実在の人物を標的にし、高度なモデルが制御された環境を超えて動作する場合に生じ得るリスクを浮き彫りにしました。