Anthropic déclare ne pas soutenir l’interdiction des modèles d’IA Open-Weight

Anthropic a clarifié sa position sur les modèles d’IA à poids ouverts, son PDG Dario Amodei affirmant que l’entreprise n’a jamais soutenu une interdiction. Cependant, il continue de prévenir que des modèles ouverts puissants pourraient créer des risques majeurs pour la sécurité et la géopolitique.

Vous rencontrez toujours des problèmes? Corrigez-les avec cet outil:

Ce logiciel réparera les erreurs informatiques courantes, vous protégera contre la perte de fichiers, les logiciels malveillants et les pannes matérielles tout en optimisant les performances de votre PC. Réparez votre PC et supprimez les virus instantanément en 3 étapes faciles:

1. Téléchargez l'outil Fortect
2. Cliquez sur Analyser pour dépister les erreurs de votre PC.
3. Cliquez sur Réparer pour résoudre les erreurs de sécurité et des performances du PC.

• 0 utilisateurs ont téléchargé Fortect ce mois-ci.

Anthropic exprime des inquiétudes au sujet de la Chine

Amodei a averti que les gouvernements autoritaires, y compris la Chine, pourraient utiliser des modèles d’IA avancés pour renforcer leurs capacités militaires, développer des systèmes plus puissants et étendre la surveillance.

Il a également exprimé son inquiétude que la Chine pourrait finir par construire des modèles d’IA surpassant ceux développés aux États-Unis.

Anthropic a récemment accusé Alibaba d’avoir utilisé 25 000 faux comptes pour extraire des capacités de Claude. Alibaba se préparerait également à restreindre l’utilisation de Claude Code sur son lieu de travail.

Les modèles ouverts pourraient favoriser une utilisation abusive

Amodei a déclaré que des acteurs malveillants pourraient utiliser des modèles d’IA puissants pour mener des cyberattaques et d’autres activités nuisibles.

Les modèles à poids ouverts peuvent présenter des risques supplémentaires car les développeurs ne peuvent pas facilement surveiller la façon dont les gens les utilisent. Une fois diffusé, une entreprise ne peut pas non plus retirer le modèle, mettre à jour ses protections ou empêcher la propagation de versions modifiées.

Amodei a rejeté les affirmations selon lesquelles les modèles ouverts rendent automatiquement l’IA plus sûre ou donnent systématiquement aux défenseurs un avantage plus important qu’aux attaquants.

Amodei propose quatre mesures de sécurité

Le PDG d’Anthropic a proposé plusieurs politiques pour gérer les risques liés à l’IA avancée, notamment restreindre les exportations de puces avancées et d’équipements de fabrication de puces vers la Chine et renforcer l’application de la loi contre la contrebande de puces.

Il a également appelé à interdire les opérations de distillation de modèles d’IA à l’échelle industrielle et à exiger des tests de sécurité obligatoires pour les modèles puissants, ouverts comme fermés.

Ces mesures cibleraient l’accès aux ressources informatiques et obligeraient les entreprises à évaluer les modèles avancés avant leur déploiement ou leur diffusion.

Des entreprises technologiques s’opposent aux restrictions précoces

NVIDIA, Meta, Microsoft et d’autres entreprises technologiques ont récemment averti les décideurs politiques américains de ne pas introduire de restrictions prématurées sur l’IA à poids ouverts.

Ces entreprises ont fait valoir que les modèles ouverts soutiennent la croissance économique, encouragent l’innovation et aident les chercheurs à développer des outils de sécurité de l’IA plus solides. Anthropic n’a pas signé la lettre de l’industrie.

Amodei a reconnu que les modèles à poids ouverts peuvent soutenir la recherche et la croissance économique. Cependant, il a fait valoir que les décideurs politiques ne devraient pas ignorer leur utilisation potentielle dans les cyberattaques, les systèmes militaires, la surveillance ou le développement d’une IA plus performante.

Dans d’autres actualités d’Anthropic, l’entreprise a récemment lancé Claude Opus 5.