Anthropic déclare ne pas soutenir l'interdiction des modèles d'IA open-weight

Anthropic a clarifié sa position sur les modèles d’IA à poids ouverts, son PDG Dario Amodei déclarant que l’entreprise n’a jamais soutenu une interdiction. Il continue toutefois de prévenir que de puissants modèles ouverts pourraient engendrer des risques majeurs en matière de sécurité et de géopolitique.

Vous rencontrez toujours des problèmes? Corrigez-les avec cet outil:

Ce logiciel réparera les erreurs informatiques courantes, vous protégera contre la perte de fichiers, les logiciels malveillants et les pannes matérielles tout en optimisant les performances de votre PC. Réparez votre PC et supprimez les virus instantanément en 3 étapes faciles:

1. Téléchargez l'outil Fortect
2. Cliquez sur Analyser pour dépister les erreurs de votre PC.
3. Cliquez sur Réparer pour résoudre les erreurs de sécurité et des performances du PC.

• 0 utilisateurs ont téléchargé Fortect ce mois-ci.

Anthropic soulève des préoccupations concernant la Chine

Amodei a averti que des gouvernements autoritaires, y compris la Chine, pourraient utiliser des modèles d’IA avancés pour renforcer leurs capacités militaires, développer des systèmes plus puissants et étendre la surveillance.

Il s’est également dit inquiet que la Chine puisse à terme construire des modèles d’IA surpassant ceux développés aux États-Unis.

Anthropic a récemment accusé Alibaba d’avoir utilisé 25 000 faux comptes pour extraire des capacités de Claude. Alibaba se préparerait également à restreindre l’utilisation de Claude Code au sein de son entreprise.

Les modèles ouverts pourraient favoriser les abus

Amodei a déclaré que des acteurs malveillants pourraient utiliser des modèles d’IA puissants pour mener des cyberattaques et d’autres activités nuisibles.

Les modèles à poids ouverts peuvent présenter des risques supplémentaires, car les développeurs ne peuvent pas facilement surveiller leur utilisation. Une fois publié, une entreprise ne peut pas non plus retirer le modèle, mettre à jour ses protections ni empêcher la diffusion de versions modifiées.

Amodei a rejeté les affirmations selon lesquelles les modèles ouverts rendent automatiquement l’IA plus sûre ou confèrent systématiquement aux défenseurs un avantage supérieur à celui des attaquants.

Amodei propose quatre mesures de sécurité

Le PDG d’Anthropic a proposé plusieurs politiques pour gérer les risques liés à l’IA avancée, notamment restreindre les exportations de puces avancées et d’équipements de fabrication de puces vers la Chine, et renforcer la lutte contre la contrebande de puces.

Il a également appelé à interdire les opérations de distillation de modèles d’IA à l’échelle industrielle et à exiger des tests de sécurité obligatoires pour les modèles puissants, qu’ils soient ouverts ou fermés.

Ces mesures viseraient l’accès aux ressources informatiques et obligeraient les entreprises à évaluer les modèles avancés avant leur déploiement ou leur diffusion.

Les entreprises technologiques s’opposent aux restrictions précoces

NVIDIA, Meta, Microsoft et d’autres entreprises technologiques ont récemment mis en garde les décideurs politiques américains contre l’introduction de restrictions prématurées sur l’IA à poids ouverts.

Ces entreprises ont fait valoir que les modèles ouverts soutiennent la croissance économique, encouragent l’innovation et aident les chercheurs à développer des outils de sécurité de l’IA plus solides. Anthropic n’a pas signé la lettre de l’industrie.

Amodei a reconnu que les modèles à poids ouverts peuvent soutenir la recherche et la croissance économique. Cependant, il a soutenu que les décideurs politiques ne devraient pas ignorer leur utilisation potentielle dans les cyberattaques, les systèmes militaires, la surveillance ou le développement d’une IA plus performante.

Autre actualité d’Anthropic : l’entreprise a récemment lancé Claude Opus 5.