EE. UU. excluye supuestamente los modelos de IA de pesos abiertos de las pruebas de ciberseguridad

Según informes, los modelos de IA de pesos abiertos permanecerán fuera de un nuevo programa del gobierno de EE. UU. diseñado para probar si los sistemas avanzados pueden realizar operaciones cibernéticas sofisticadas.

Los asesores de la administración Trump comunicaron la decisión durante una reunión en la Casa Blanca el 4 de agosto a la que asistieron representantes de Meta, Google, Nvidia, OpenAI y Anthropic, según Reuters.

El programa federal se centrará en modelos de IA propietarios

El marco de pruebas voluntario se deriva de una orden ejecutiva del 2 de junio que ordenó a las agencias federales crear puntos de referencia clasificados para las capacidades avanzadas de ciberseguridad de la IA.

Los funcionarios quieren determinar si los modelos de frontera pueden realizar operaciones cibernéticas complejas que podrían amenazar sistemas gubernamentales, infraestructuras críticas u organizaciones privadas.

Según informes, las discusiones previas finalizaron los acuerdos para probar potentes sistemas propietarios, incluidos los modelos Mythos y Fable de Anthropic y GPT-5.6 Sol de OpenAI.

Sin embargo, el marco actual excluirá, según informes, a los modelos de pesos abiertos. Estos sistemas permiten a los desarrolladores descargar, inspeccionar, modificar e implementar los pesos subyacentes del modelo en lugar de acceder a ellos solo a través de un servicio controlado por la empresa.

La exclusión de los pesos abiertos podría dejar una brecha de seguridad

La exención reportada podría crear una brecha significativa en el sistema de evaluación del gobierno federal.

Los modelos de pesos abiertos pueden propagarse rápidamente porque las personas y las organizaciones pueden copiarlos y modificarlos sin depender de la infraestructura del desarrollador original. Los desarrolladores también pueden eliminar las salvaguardas integradas, ajustar los modelos para tareas especializadas o ejecutarlos de forma privada.

Por lo tanto, un modelo de pesos abiertos de alta capacidad podría llegar a un gran número de usuarios sin enfrentar las mismas pruebas federales de ciberseguridad que los sistemas propietarios de frontera.

El gobierno no ha aclarado si la exclusión cubre todos los lanzamientos de pesos abiertos o solo los modelos que se encuentran por debajo de un umbral de capacidad particular.

Anthropic dijo recientemente que no apoya la prohibición de los modelos de IA de pesos abiertos, a pesar de advertir repetidamente que los sistemas de IA avanzados podrían crear graves riesgos de ciberseguridad y seguridad nacional.

Los detalles clave del programa siguen sin estar claros

La Casa Blanca no ha identificado qué agencia federal operará el programa de pruebas ni gestionará el acceso a los puntos de referencia clasificados.

Los funcionarios tampoco han explicado si publicarán algún resultado de las evaluaciones. Mantener los hallazgos clasificados podría ayudar a proteger métodos de prueba sensibles, pero proporcionaría a los investigadores y al público poca información sobre las capacidades descubiertas durante las evaluaciones.

La administración no ha revelado qué consecuencias podría enfrentar una empresa si su modelo demuestra capacidades cibernéticas peligrosas. La naturaleza voluntaria del programa también plantea dudas sobre si los desarrolladores podrían rechazar pruebas adicionales o continuar lanzando un modelo después de resultados preocupantes.

Los funcionarios eventualmente podrían crear un marco separado para los sistemas de pesos abiertos, aunque no se ha anunciado ningún programa de este tipo.

La decisión se produce mientras los gobiernos y las empresas de IA examinan cómo los agentes autónomos interactúan con sistemas reales. En un caso aparte, los agentes de OpenAI y Anthropic apuntaron a personas reales durante pruebas de ciberseguridad, lo que pone de relieve los riesgos que pueden surgir cuando los modelos avanzados operan más allá de entornos controlados.