AnthropicはオープンウェイトAIモデルの禁止を支持しないと述べる

AnthropicはオープンウェイトAIモデルに対する立場を明確化しました。CEOのDario Amodei氏は、同社が禁止を支持したことは一度もないと述べています。しかし、同氏は引き続き、強力なオープンモデルが重大なセキュリティおよび地政学的リスクを生み出す可能性があると警告しています。

Anthropic、中国への懸念を表明

Amodei氏は、中国を含む権威主義的な政府が、軍事力の強化、より強力なシステムの開発、監視の拡大に高度なAIモデルを利用する可能性があると警告しました。

また、中国が最終的に米国で開発されたものを凌駕するAIモデルを構築する可能性があることへの懸念も表明しました。

Anthropicは最近、AlibabaがClaudeから能力を引き出すために25,000の偽アカウントを使用したと非難しました。Alibabaはまた、職場全体でClaude Codeの使用を制限する準備をしていると報じられています。

オープンモデルが悪用を可能にする可能性

Amodei氏は、悪意ある行為者が強力なAIモデルを使用してサイバー攻撃やその他の有害な活動を行う可能性があると述べました。

オープンウェイトモデルは、開発者が人々の使用方法を簡単に監視できないため、さらなるリスクをもたらす可能性があります。一度リリースされると、企業はモデルを撤回したり、安全策を更新したり、修正版の拡散を防ぐこともできません。

Amodei氏は、オープンモデルが自動的にAIをより安全にする、あるいは一貫して防御側に攻撃側よりも大きな優位性をもたらすという主張を退けました。

Amodei氏、4つの安全対策を提案

AnthropicのCEOは、高度なAIリスクを管理するためのいくつかの政策を提案しました。これには、中国への先端チップおよびチップ製造装置の輸出制限や、チップ密輸に対する取り締まりの強化が含まれます。

また、産業規模のAIモデル蒸留作業の禁止や、強力なオープンモデルとクローズドモデルの両方に対する必須の安全性テストの義務付けを求めました。

これらの措置は、コンピューティングリソースへのアクセスを標的とし、企業が展開またはリリース前に高度なモデルを評価することを要求するものです。

テクノロジー企業、早期の規制に反対

NVIDIA、Meta、Microsoft、その他のテクノロジー企業は最近、米国の政策立案者に対し、オープンウェイトAIに対する時期尚早な規制を導入しないよう警告しました。

これらの企業は、オープンモデルが経済成長を支え、イノベーションを促進し、研究者がより強力なAI安全ツールを開発するのに役立つと主張しました。Anthropicはこの業界書簡に署名しませんでした。

Amodei氏は、オープンウェイトモデルが研究と経済成長を支援できることを認めました。しかし、政策立案者は、サイバー攻撃、軍事システム、監視、またはより高性能なAIの開発における潜在的な利用を無視すべきではないと主張しました。

その他のAnthropic関連のニュースでは、同社は最近Claude Opus 5を発表しました。