Les États-Unis excluraient les modèles d’IA à poids ouverts des tests de cybersécurité

Les modèles d’IA à pondérations ouvertes devraient rester en dehors d’un nouveau programme gouvernemental américain conçu pour tester si les systèmes avancés peuvent mener des opérations cybernétiques sophistiquées.

Les conseillers de l’administration Trump ont communiqué cette décision lors d’une réunion à la Maison-Blanche le 4 août, à laquelle participaient des représentants de Meta, Google, Nvidia, OpenAI et Anthropic, selon Reuters.

Vous rencontrez toujours des problèmes? Corrigez-les avec cet outil:

Ce logiciel réparera les erreurs informatiques courantes, vous protégera contre la perte de fichiers, les logiciels malveillants et les pannes matérielles tout en optimisant les performances de votre PC. Réparez votre PC et supprimez les virus instantanément en 3 étapes faciles:

1. Téléchargez l'outil Fortect
2. Cliquez sur Analyser pour dépister les erreurs de votre PC.
3. Cliquez sur Réparer pour résoudre les erreurs de sécurité et des performances du PC.

• 0 utilisateurs ont téléchargé Fortect ce mois-ci.

Le programme fédéral se concentrera sur les modèles d’IA propriétaires

Ce cadre de test volontaire fait suite à un décret exécutif du 2 juin qui ordonnait aux agences fédérales de créer des critères de référence classifiés pour les capacités avancées de cybersécurité des IA.

Les responsables veulent déterminer si les modèles d’avant-garde peuvent effectuer des opérations cybernétiques complexes susceptibles de menacer les systèmes gouvernementaux, les infrastructures critiques ou les organisations privées.

Des discussions antérieures auraient finalisé les arrangements pour tester de puissants systèmes propriétaires, notamment les modèles Mythos et Fable d’Anthropic ainsi que GPT-5.6 Sol d’OpenAI.

Cependant, le cadre actuel exclurait les modèles à pondérations ouvertes. Ces systèmes permettent aux développeurs de télécharger, inspecter, modifier et déployer les pondérations sous-jacentes du modèle, au lieu d’y accéder uniquement via un service contrôlé par l’entreprise.

L’exclusion des modèles à pondérations ouvertes pourrait créer une faille de sécurité

L’exemption rapportée pourrait créer une lacune significative dans le système d’évaluation du gouvernement fédéral.

Les modèles à pondérations ouvertes peuvent se propager rapidement, car les individus et les organisations peuvent les copier et les modifier sans dépendre de l’infrastructure du développeur d’origine. Les développeurs peuvent également supprimer les garde-fous intégrés, peaufiner les modèles pour des tâches spécialisées ou les exécuter de manière privée.

Un modèle à pondérations ouvertes très performant pourrait donc atteindre un grand nombre d’utilisateurs sans être soumis aux mêmes tests fédéraux de cybersécurité que les systèmes propriétaires d’avant-garde.

Le gouvernement n’a pas précisé si l’exclusion concerne chaque version à pondérations ouvertes ou uniquement les modèles qui se situent en dessous d’un certain seuil de capacité.

Anthropic a récemment déclaré ne pas soutenir l’interdiction des modèles d’IA à pondérations ouvertes, bien qu’elle ait averti à plusieurs reprises que les systèmes d’IA avancés pourraient créer de sérieux risques de cybersécurité et de sécurité nationale.

Des détails clés sur le programme restent flous

La Maison-Blanche n’a pas identifié quelle agence fédérale dirigera le programme de test ni gérera l’accès aux critères de référence classifiés.

Les responsables n’ont pas non plus expliqué s’ils publieraient les résultats des évaluations. Garder les conclusions classifiées pourrait aider à protéger les méthodes de test sensibles, mais cela ne fournirait que peu d’informations aux chercheurs et au public sur les capacités découvertes lors des évaluations.

L’administration n’a pas divulgué les conséquences auxquelles une entreprise pourrait faire face si son modèle démontre des capacités cybernétiques dangereuses. La nature volontaire du programme soulève également des questions quant à savoir si les développeurs pourraient refuser des tests supplémentaires ou continuer à diffuser un modèle après des résultats préoccupants.

Les responsables pourraient éventuellement créer un cadre distinct pour les systèmes à pondérations ouvertes, bien qu’aucun programme de ce type n’ait été annoncé.

Cette décision intervient alors que les gouvernements et les entreprises d’IA examinent comment les agents autonomes interagissent avec les systèmes réels. Dans un cas distinct, des agents d’OpenAI et d’Anthropic ont ciblé de vraies personnes lors de tests de cybersécurité, soulignant les risques pouvant émerger lorsque des modèles avancés opèrent au-delà des environnements contrôlés.