AnthropicはオープンウェイトAIモデルの禁止を支持しないと述べています

Anthropic は、オープンウェイト AI モデルに関する立場を明確にしました。CEO の Dario Amodei 氏は、同社が禁止を支持したことは一度もないと述べています。しかし、強力なオープン モデルが重大なセキュリティおよび地政学的リスクを生み出す可能性があると、引き続き警告しています。

Anthropic が中国への懸念を表明

Amodei 氏は、中国を含む権威主義的な政府が、高度な AI モデルを使用して軍事力を強化し、より強力なシステムを開発し、監視を拡大する可能性があると警告しました。

また、中国が最終的に米国で開発されたものを上回る AI モデルを構築する可能性があるとの懸念も表明しました。

Anthropic は最近、Alibaba が 25,000 の偽アカウントを使って Claude から機能を抽出したと非難しました。また、Alibaba は社内全体で Claude Code の使用を制限する準備を進めていると報じられています。

オープン モデルが悪用につながる可能性

Amodei 氏は、悪意のある攻撃者が強力な AI モデルを使ってサイバー攻撃やその他の有害な活動を行う可能性があると述べました。

オープンウェイト モデルは、開発者が人々の使用方法を簡単に監視できないため、追加のリスクをもたらす可能性があります。一度リリースすると、企業はモデルを撤回したり、安全策を更新したり、修正版が拡散するのを防ぐこともできません。

Amodei 氏は、オープン モデルが自動的に AI をより安全にしたり、防御側が攻撃側よりも常に大きな優位性を得られるとする主張を否定しました。

Amodei 氏、4 つの安全対策を提案

Anthropic の CEO は、中国への先端チップとチップ製造装置の輸出制限や、チップの密輸に対する取締り強化など、高度な AI リスクを管理するためのいくつかの政策を提案しました。

また、大規模な AI モデルの蒸留操作の禁止と、強力なオープン モデルとクローズド モデルの両方に対する強制的な安全性テストの義務化も求めました。

これらの対策は、コンピューティング リソースへのアクセスを対象とし、導入またはリリース前に企業が高度なモデルを評価することを義務付けるものです。

テクノロジー企業、早期の規制に反対

NVIDIA、Meta、Microsoft などのテクノロジー企業は最近、米国の政策立案者に対し、オープンウェイト AI に時期尚早な制限を導入しないよう警告しました。

これらの企業は、オープン モデルが経済成長を支え、イノベーションを促進し、研究者がより強力な AI 安全ツールを開発するのに役立つと主張しました。Anthropic はこの業界書簡に署名しませんでした。

Amodei 氏は、オープンウェイト モデルが研究と経済成長をサポートできることを認めました。しかし、政策立案者は、サイバー攻撃、軍事システム、監視、あるいはより有能な AI の開発における潜在的な使用を無視すべきではないと主張しました。

Anthropic のその他のニュースとして、同社は最近 Claude Opus 5 を発表しました。