EE. UU. excluiría los modelos de IA de peso abierto de las pruebas de ciberseguridad

Según se informa, los modelos de IA de pesos abiertos permanecerán fuera de un nuevo programa del gobierno de EE. UU. diseñado para probar si los sistemas avanzados pueden llevar a cabo operaciones cibernéticas sofisticadas.

Asesores de la administración Trump comunicaron la decisión durante una reunión en la Casa Blanca del 4 de agosto, a la que asistieron representantes de Meta, Google, Nvidia, OpenAI y Anthropic, según Reuters.

El programa federal se centrará en los modelos de IA propietarios

El marco de pruebas voluntario surge a raíz de una orden ejecutiva del 2 de junio que ordenó a las agencias federales crear puntos de referencia clasificados para las capacidades avanzadas de ciberseguridad de la IA.

Los funcionarios quieren determinar si los modelos de vanguardia pueden llevar a cabo operaciones cibernéticas complejas que podrían amenazar sistemas gubernamentales, infraestructuras críticas u organizaciones privadas.

Las discusiones previas, según se informa, finalizaron los arreglos para probar potentes sistemas propietarios, incluidos los modelos Mythos y Fable de Anthropic y GPT-5.6 Sol de OpenAI.

Sin embargo, según se informa, el marco actual excluirá los modelos de pesos abiertos. Estos sistemas permiten a los desarrolladores descargar, inspeccionar, modificar e implementar los pesos subyacentes del modelo, en lugar de acceder a ellos solo a través de un servicio controlado por la empresa.

La exclusión de los modelos de pesos abiertos podría dejar una brecha de seguridad

La exención reportada podría crear una brecha significativa en el sistema de evaluación del gobierno federal.

Los modelos de pesos abiertos pueden propagarse rápidamente porque las personas y organizaciones pueden copiarlos y modificarlos sin depender de la infraestructura del desarrollador original. Los desarrolladores también pueden eliminar salvaguardas integradas, ajustar los modelos para tareas especializadas o ejecutarlos de forma privada.

Un modelo de pesos abiertos altamente capaz podría, por tanto, llegar a un gran número de usuarios sin enfrentarse a las mismas pruebas federales de ciberseguridad que los sistemas propietarios de vanguardia.

El gobierno no ha aclarado si la exclusión cubre todas las versiones de pesos abiertos o solo los modelos que estén por debajo de un umbral de capacidad particular.

Anthropic dijo recientemente que no apoya la prohibición de los modelos de IA de pesos abiertos, a pesar de haber advertido repetidamente que los sistemas avanzados de IA podrían generar graves riesgos de ciberseguridad y seguridad nacional.

Los detalles clave sobre el programa siguen sin estar claros

La Casa Blanca no ha identificado qué agencia federal operará el programa de pruebas ni gestionará el acceso a los puntos de referencia clasificados.

Los funcionarios tampoco han explicado si publicarán algún resultado de la evaluación. Mantener los hallazgos clasificados podría ayudar a proteger métodos de prueba delicados, pero daría a los investigadores y al público poca información sobre las capacidades descubiertas durante las evaluaciones.

La administración no ha revelado qué consecuencias podría enfrentar una empresa si su modelo demuestra capacidades cibernéticas peligrosas. La naturaleza voluntaria del programa también plantea dudas sobre si los desarrolladores podrían rechazar pruebas adicionales o continuar lanzando un modelo tras obtener resultados preocupantes.

Los funcionarios podrían eventualmente crear un marco separado para los sistemas de pesos abiertos, aunque no se ha anunciado ningún programa de ese tipo.

La decisión se produce mientras los gobiernos y las empresas de IA examinan cómo los agentes autónomos interactúan con sistemas reales. En un caso aparte, agentes de OpenAI y Anthropic apuntaron a personas reales durante pruebas de ciberseguridad, lo que pone de relieve los riesgos que pueden surgir cuando los modelos avanzados operan fuera de entornos controlados.