アンソロピックは、オープンウェイトAIモデルの禁止を支持しないと述べています

Anthropicは、オープンウェイトAIモデルに関する同社の立場を明確にしました。CEOのダリオ・アモデイ氏は、同社は禁止を支持したことはないと述べています。しかし、強力なオープンモデルが大きなセキュリティ上および地政学的なリスクを生み出す可能性があると引き続き警告しています。

Anthropicが中国に対する懸念を表明

アモデイ氏は、中国を含む権威主義的な政府が、軍事力の強化、より強力なシステムの開発、監視の拡大に高度なAIモデルを利用する可能性があると警告しました。

また、中国がいずれ米国で開発されたものを上回る性能のAIモデルを構築する可能性があるとの懸念も表明しました。

Anthropicは最近、AlibabaがClaudeから能力を引き出すために25,000の偽アカウントを使用したと非難しました。また、Alibabaは職場全体でClaude Codeの使用を制限する準備をしているとも報じられています。

オープンモデルは悪用を可能にする可能性がある

アモデイ氏は、悪意のある行為者が強力なAIモデルを使用してサイバー攻撃やその他の有害な活動を行う可能性があると述べました。

オープンウェイトモデルは、開発者が人々の使用方法を容易に監視できないため、さらなるリスクをもたらす可能性があります。一度リリースされると、企業はモデルを撤回したり、安全策を更新したり、修正版の拡散を防止したりすることができません。

アモデイ氏は、オープンモデルが自動的にAIをより安全にしたり、防御側に攻撃側よりも一貫して大きな利点をもたらしたりするという主張を否定しました。

アモデイ氏、4つの安全策を提案

AnthropicのCEOは、先進的なAIリスクを管理するための複数の政策を提案しました。これには、中国への先進チップやチップ製造装置の輸出制限、チップの密輸に対する取締りの強化が含まれます。

また、産業規模のAIモデルの蒸留作業の禁止と、強力なオープンおよびクローズドモデルの両方に対する強制的な安全性テストの実施を求めました。

これらの措置はコンピューティングリソースへのアクセスを対象とし、展開やリリース前に先進モデルを評価することを企業に義務付けるものです。

テクノロジー企業、早期の規制に反対

NVIDIA、Meta、Microsoftなどのテクノロジー企業は最近、米国の政策立案者に対し、オープンウェイトAIへの時期尚早な規制導入を警告しました。

これらの企業は、オープンモデルが経済成長を支え、イノベーションを促進し、研究者がより強力なAI安全ツールを開発するのに役立つと主張しました。Anthropicはこの業界書簡に署名しませんでした。

アモデイ氏は、オープンウェイトモデルが研究や経済成長を支援できることを認めました。しかし、政策立案者は、サイバー攻撃、軍事システム、監視、より高性能なAIの開発への潜在的な利用を無視すべきではないと主張しました。

Anthropic関連のその他のニュースとして、同社は最近Claude Opus 5を発売しました。