Anthropic、オープンウェイトAIモデルの禁止を支持しないと表明

AnthropicはオープンウェイトAIモデルに関する自社の立場を明確化し、CEOのダリオ・アモデイ氏は、同社が禁止を支持したことは一度もないと述べました。ただし、強力なオープンモデルが重大な安全保障上および地政学的リスクを生み出す可能性があると、引き続き警告しています。

Anthropic、中国への懸念を表明

アモデイ氏は、中国を含む権威主義的な政府が、高度なAIモデルを軍事力の強化、より強力なシステムの開発、監視の拡大に利用する恐れがあると警告しました。

また、中国が最終的に米国で開発されたものより高性能なAIモデルを構築する可能性があることへの懸念も示しました。

Anthropicは最近、AlibabaがClaudeから能力を引き出すために25,000件の偽アカウントを使ったと非難しました。また、Alibabaは社内全体でClaude Codeの使用を制限する準備を進めているとも報じられています。

オープンモデル、悪用の恐れ

アモデイ氏は、悪意ある行為者が強力なAIモデルをサイバー攻撃やその他の有害な活動に利用する可能性があると述べました。

オープンウェイトモデルは、開発者がユーザーの使い方を容易に監視できないため、さらなるリスクをもたらす場合があります。一度公開されると、企業はモデルを撤回したり、安全対策を更新したり、改変版の拡散を防いだりすることができません。

アモデイ氏は、オープンモデルが自動的にAIをより安全にし、防御側に攻撃側より一貫して大きな優位性をもたらすという主張を否定しました。

アモデイ氏、4つの安全対策を提案

AnthropicのCEOは、高度なAIのリスク管理として、中国向けの先端チップやチップ製造装置の輸出制限、チップ密輸の取り締まり強化を含む複数の政策を提案しました。

さらに、産業規模でのAIモデルの蒸留（ディスティレーション）を禁止し、強力なオープンモデルとクローズドモデルの両方に必須の安全性テストを課すことも求めました。

これらの措置は計算資源へのアクセスを対象とし、展開や公開前に高度なモデルの評価を企業に義務付けるものになります。

テクノロジー企業、早期規制に反対

NVIDIA、Meta、Microsoftなどのテクノロジー企業は最近、米国の政策立案者に対し、オープンウェイトAIへの時期尚早な規制導入を警告しました。

これらの企業は、オープンモデルが経済成長を支え、イノベーションを促し、研究者がより強力なAI安全ツールを開発する助けになると主張しました。Anthropicはこの業界書簡に署名していません。

アモデイ氏は、オープンウェイトモデルが研究や経済成長に役立つことを認めつつも、政策立案者はサイバー攻撃、軍事システム、監視、あるいはより高性能なAIの開発への利用可能性を無視すべきではないと訴えました。

その他のAnthropic関連ニュースとして、同社は最近Claude Opus 5をリリースしました。