Satya Nadella : la superintelligence ne vaut pas la peine d’être poursuivie sans contrôle humain et sans bienfaits pour l’humanité

Bien que Microsoft fasse preuve de transparence concernant l’adoption de l’IA et intègre ses modèles d’IA internes dans ses produits et services, le PDG de l’entreprise, Satya Nadella, a ouvertement évoqué la prochaine phase de l’IA, et il souhaite qu’un principe reste central. Toute quête de superintelligence, dit-il, doit en définitive aider l’humanité tout en gardant les personnes aux commandes.

Vous rencontrez toujours des problèmes? Corrigez-les avec cet outil:

Ce logiciel réparera les erreurs informatiques courantes, vous protégera contre la perte de fichiers, les logiciels malveillants et les pannes matérielles tout en optimisant les performances de votre PC. Réparez votre PC et supprimez les virus instantanément en 3 étapes faciles:

1. Téléchargez l'outil Fortect
2. Cliquez sur Analyser pour dépister les erreurs de votre PC.
3. Cliquez sur Réparer pour résoudre les erreurs de sécurité et des performances du PC.

• 0 utilisateurs ont téléchargé Fortect ce mois-ci.

Nadella veut que les bénéfices de l’IA soient répartis dans tout l’écosystème

Dans un billet publié sur X, Nadella a affirmé que les bénéfices de l’IA devraient profiter largement aux pays, aux communautés et aux entreprises. Il a également plaidé pour un écosystème d’IA où les modèles fermés et open source peuvent se développer.

Cette approche pourrait remettre en question l’idée selon laquelle une IA de plus en plus performante devrait rester concentrée entre les mains d’un petit groupe d’entreprises. Nadella a déclaré qu’une large représentation est nécessaire dans les pays, les secteurs, le monde universitaire et l’ensemble de l’écosystème de l’IA.

Il a également mis en évidence une préoccupation majeure pour les entreprises qui créent des systèmes d’IA. Les entreprises devraient conserver le contrôle de leurs connaissances uniques au lieu de devenir dépendantes d’un seul fournisseur de modèles. Selon Nadella, les organisations devraient être en mesure de créer leurs propres boucles d’apprentissage continu. Elles devraient aussi avoir les moyens d’intégrer leurs connaissances propriétaires dans des modèles et des poids qu’elles contrôlent.

Microsoft prépare son propre code de conduite en matière d’IA

Nadella a également accueilli favorablement le renforcement de la recherche sur l’alignement de l’IA et ce qu’il a décrit comme un rythme délibéré. Il a spécifiquement cité des idées telles que les « évaluateurs intégrés » dans le cadre des efforts visant à transformer les principes de sécurité de l’IA en mécanismes pratiques.

Ces commentaires interviennent alors que Microsoft continue de développer ses propres modèles MAI. Nadella a indiqué que l’entreprise prévoit de publier un code de conduite pour ses modèles MAI propriétaires, en vue d’une consultation publique.

Cela pourrait permettre aux chercheurs, aux entreprises et aux autres développeurs d’IA de mieux comprendre les principes que Microsoft souhaite voir guider ses modèles. Cela rejoint également l’argument plus large de Nadella selon lequel le développement de l’IA devrait offrir un choix à chaque couche de la pile.

À l’heure où la course à une IA de plus en plus puissante s’accélère, les propos de Nadella placent le contrôle et l’accès au même niveau que la puissance brute. Ces derniers jours, l’industrie de l’IA a lancé des avertissements glaçants, et des découvertes récentes suggèrent que si l’IA n’est pas contrôlée, elle pourrait avoir des conséquences catastrophiques pour l’humanité.