米国、オープンウェイトAIモデルをサイバーテストから除外か

オープンウェイトAIモデルは、高度なシステムが洗練されたサイバー作戦を実行できるかどうかをテストするための米国政府の新たなプログラムの対象外になると報じられています。

ロイター通信によると、トランプ政権の顧問らは、Meta、Google、Nvidia、OpenAI、Anthropicの代表者が出席した8月4日のホワイトハウス会合でこの決定を伝えました。

連邦政府のプログラムはプロプライエタリAIモデルに焦点を当てる

この任意参加型のテストフレームワークは、6月2日の大統領令に基づいており、連邦政府機関に対し高度なAIサイバーセキュリティ能力に関する機密ベンチマークの作成を指示したものです。

当局は、政府システム、重要インフラ、または民間組織を脅かす可能性のある複雑なサイバー作戦をフロンティアモデルが実行できるかどうかを判断したいと考えています。

以前の協議では、AnthropicのMythosおよびFableモデルやOpenAIのGPT-5.6 Solなど、強力なプロプライエタリシステムのテストに関する取り決めが最終決定されたと報じられています。

しかし、現在のフレームワークではオープンウェイトモデルが対象外になると報じられています。これらのシステムでは、開発者は企業が管理するサービスを通じてアクセスする代わりに、基盤となるモデルウェイトをダウンロードし、調査、修正、展開することができます。

オープンウェイトの除外がセキュリティ上の隙間を生む可能性

報じられた除外措置は、連邦政府の評価システムに大きな隙間を生む可能性があります。

オープンウェイトモデルは、個人や組織が元の開発者のインフラに依存せずにコピーや変更を行えるため、急速に拡散する可能性があります。また、開発者は組み込まれた安全策を削除したり、特定のタスク向けにモデルを微調整したり、非公開で実行したりすることができます。

したがって、非常に高性能なオープンウェイトモデルは、プロプライエタリなフロンティアシステムと同じ連邦サイバーセキュリティテストを受けることなく、多数のユーザーに到達する可能性があります。

政府は、この除外がすべてのオープンウェイトリリースを対象とするのか、特定の能力しきい値を下回るモデルのみを対象とするのかを明らかにしていません。

Anthropicは最近、高度なAIシステムが深刻なサイバーセキュリティおよび国家安全保障上のリスクを生み出す可能性があると繰り返し警告しているにもかかわらず、オープンウェイトAIモデルの禁止を支持していないと述べました。

プログラムの主要な詳細は未だ不明

ホワイトハウスは、どの連邦機関がテストプログラムを運営し、機密ベンチマークへのアクセスを管理するのかを特定していません。

当局はまた、評価結果を公開するかどうかについても説明していません。調査結果を機密扱いにすることは、機密性の高いテスト手法を保護するのに役立つかもしれませんが、研究者や一般市民には評価中に発見された能力についてほとんど情報が提供されないことになります。

政権は、モデルが危険なサイバー能力を示した場合に企業がどのような結果に直面するかについて明らかにしていません。プログラムが任意参加であることも、開発者が追加テストを辞退したり、懸念される結果が出た後もモデルのリリースを継続できるのかという疑問を提起しています。

当局は最終的にオープンウェイトシステムのための別枠のフレームワークを作成する可能性がありますが、そのようなプログラムはまだ発表されていません。

この決定は、政府やAI企業が自律エージェントが実システムとどのように相互作用するかを調査している中で行われました。別の事例では、OpenAIとAnthropicのエージェントがサイバーセキュリティテスト中に実在の人物を標的にしており、高度なモデルが管理された環境の外で動作する際に生じ得るリスクを浮き彫りにしています。