Les États-Unis excluraient les modèles d’IA à poids ouverts des tests de cybersécurité

Les modèles d’IA open-weight resteraient en dehors d’un nouveau programme du gouvernement américain conçu pour tester si des systèmes avancés peuvent mener des cyberopérations sophistiquées.

Les conseillers de l’administration Trump ont communiqué cette décision lors d’une réunion à la Maison Blanche le 4 août, à laquelle ont assisté des représentants de Meta, Google, Nvidia, OpenAI et Anthropic, selon Reuters.

Vous rencontrez toujours des problèmes? Corrigez-les avec cet outil:

Ce logiciel réparera les erreurs informatiques courantes, vous protégera contre la perte de fichiers, les logiciels malveillants et les pannes matérielles tout en optimisant les performances de votre PC. Réparez votre PC et supprimez les virus instantanément en 3 étapes faciles:

1. Téléchargez l'outil Fortect
2. Cliquez sur Analyser pour dépister les erreurs de votre PC.
3. Cliquez sur Réparer pour résoudre les erreurs de sécurité et des performances du PC.

• 0 utilisateurs ont téléchargé Fortect ce mois-ci.

Le programme fédéral se concentrera sur les modèles d’IA propriétaires

Ce cadre de test volontaire fait suite à un décret du 2 juin qui ordonnait aux agences fédérales de créer des référentiels classifiés pour évaluer les capacités avancées en cybersécurité de l’IA.

Les responsables veulent déterminer si les modèles de pointe peuvent effectuer des cyberopérations complexes susceptibles de menacer les systèmes gouvernementaux, les infrastructures critiques ou les organisations privées.

Des discussions antérieures auraient finalisé des dispositions pour tester de puissants systèmes propriétaires, notamment les modèles Mythos et Fable d’Anthropic et GPT-5.6 Sol d’OpenAI.

Cependant, le cadre actuel exclurait les modèles open-weight. Ces systèmes permettent aux développeurs de télécharger, inspecter, modifier et déployer les poids sous-jacents du modèle au lieu d’y accéder uniquement via un service contrôlé par l’entreprise.

L’exclusion des modèles open-weight pourrait créer une faille de sécurité

L’exemption signalée pourrait créer une lacune significative dans le système d’évaluation du gouvernement fédéral.

Les modèles open-weight peuvent se propager rapidement car les individus et les organisations peuvent les copier et les modifier sans dépendre de l’infrastructure du développeur d’origine. Les développeurs peuvent également supprimer les garde-fous intégrés, affiner les modèles pour des tâches spécialisées ou les exécuter en privé.

Un modèle open-weight très performant pourrait ainsi atteindre un grand nombre d’utilisateurs sans être soumis aux mêmes tests fédéraux de cybersécurité que les systèmes de pointe propriétaires.

Le gouvernement n’a pas précisé si l’exclusion concerne toutes les versions open-weight ou uniquement les modèles qui se situent en dessous d’un certain seuil de capacités.

Anthropic a récemment déclaré qu’elle ne soutenait pas l’interdiction des modèles d’IA open-weight, bien qu’elle ait averti à plusieurs reprises que les systèmes d’IA avancés pourraient créer de graves risques de cybersécurité et de sécurité nationale.

Les détails clés du programme restent flous

La Maison Blanche n’a pas identifié quelle agence fédérale sera chargée du programme de test ni qui gérera l’accès aux référentiels classifiés.

Les responsables n’ont pas non plus expliqué s’ils publieraient les résultats des évaluations. Garder les conclusions classifiées pourrait aider à protéger les méthodes de test sensibles, mais cela donnerait peu d’informations aux chercheurs et au public sur les capacités découvertes lors des évaluations.

L’administration n’a pas divulgué les conséquences auxquelles une entreprise pourrait s’exposer si son modèle démontre des capacités cybernétiques dangereuses. La nature volontaire du programme soulève également des questions sur la possibilité pour les développeurs de refuser des tests supplémentaires ou de continuer à publier un modèle après des résultats préoccupants.

Les responsables pourraient éventuellement créer un cadre distinct pour les systèmes open-weight, bien qu’aucun programme de ce type n’ait été annoncé.

Cette décision intervient alors que les gouvernements et les entreprises d’IA examinent comment les agents autonomes interagissent avec les systèmes réels. Dans un autre cas, des agents d’OpenAI et d’Anthropic ont ciblé de vraies personnes lors de tests de cybersécurité, soulignant les risques qui peuvent émerger lorsque des modèles avancés fonctionnent en dehors d’environnements contrôlés.