サティア・ナデラ：超知能は、人間による制御と人類への利益がなければ追求する価値はない

MicrosoftはAIの採用に対してオープンな姿勢を示しており、自社開発のAIモデルを製品やサービス全体に統合してきましたが、同社のCEOであるサティア・ナデラ氏は、AIの次の段階について率直に語り、1つの原則を中心に据えることを望んでいます。超知能のいかなる追求も、最終的に人類を助け、人々が制御を維持できるものでなければならないと、同氏は述べています。

ナデラ氏、AIの恩恵をエコシステム全体に行き渡らせることを望む

Xへの投稿で、ナデラ氏は、AIの恩恵は国、コミュニティ、企業に広く行き渡るべきだと主張しました。また、クローズドモデルとオープンソースモデルの両方が発展できるAIエコシステムを求めました。

このアプローチは、ますます高性能になるAIが少数の企業グループに集中し続けるべきだという考え方に疑問を投げかける可能性があります。ナデラ氏は、国、業界、学界、そしてより広いAIエコシステム全体で幅広い代表が必要だと述べました。

また、AIシステムを構築する企業にとっての大きな懸念も強調しました。企業は、単一のモデルプロバイダーに依存するのではなく、自社独自の知識を管理し続けるべきです。ナデラ氏によると、組織は独自の継続的な学習ループを構築できるべきです。また、独自の知識を、自社で制御するモデルや重みに組み込む手段も持つべきです。

Microsoftは独自のAI行動規範を準備中

ナデラ氏は、AIアラインメントと、同氏が「意図的なペース配分」と表現するものに関するさらなる研究も歓迎しました。同氏は、AIの安全原則を実用的なメカニズムに変える取り組みの一環として、「組み込み評価器」などのアイデアを具体的に挙げました。

こうしたコメントは、Microsoftが自社のMAIモデルの開発を続ける中で出てきました。ナデラ氏は、同社が自社製MAIモデルに関する行動規範（Code of Conduct）を公開し、一般からの意見を募る予定だと述べました。

これにより、研究者、企業、その他のAI開発者は、Microsoftが自社モデルの指針としたい原則をより詳しく知ることができます。また、AI開発はスタックのあらゆる層で選択肢を提供すべきだというナデラ氏のより広い主張とも一致します。

ますます強力なAIをめぐる競争が加速する中で、ナデラ氏のコメントは、制御とアクセスを純粋な性能と同等に重要なものとして位置づけています。ここ数日、AI業界から身の毛もよだつようないくつかの警告が出ており、最新の発見とあわせて、AIが制御されなければ人類に壊滅的な結果をもたらす可能性があることが示唆されています。