Anthropic dice que no apoya la prohibición de los modelos de IA con pesos abiertos

Anthropic ha aclarado su postura sobre los modelos de IA de pesos abiertos, y su CEO Dario Amodei ha declarado que la empresa nunca ha apoyado una prohibición. Sin embargo, sigue advirtiendo que los modelos abiertos potentes podrían crear importantes riesgos de seguridad y geopolíticos.

Anthropic expresa preocupaciones sobre China

Amodei advirtió que los gobiernos autoritarios, incluido China, podrían utilizar modelos de IA avanzados para fortalecer sus capacidades militares, desarrollar sistemas más potentes y ampliar la vigilancia.

También expresó su preocupación por que China pudiera llegar a construir modelos de IA que superen a los desarrollados en Estados Unidos.

Anthropic ha acusado recientemente a Alibaba de utilizar 25 000 cuentas falsas para extraer capacidades de Claude. Según se informa, Alibaba también se está preparando para restringir el uso de Claude Code en su entorno laboral.

Los modelos abiertos podrían facilitar un uso indebido

Amodei dijo que los actores maliciosos podrían utilizar modelos de IA potentes para llevar a cabo ciberataques y otras actividades dañinas.

Los modelos de pesos abiertos pueden presentar riesgos adicionales porque los desarrolladores no pueden supervisar fácilmente cómo se utilizan. Una vez publicados, una empresa tampoco puede retirar el modelo, actualizar sus salvaguardas ni evitar que se propaguen versiones modificadas.

Amodei rechazó las afirmaciones de que los modelos abiertos hacen que la IA sea automáticamente más segura o que proporcionen de forma consistente a los defensores una ventaja mayor que a los atacantes.

Amodei propone cuatro medidas de seguridad

El CEO de Anthropic propuso varias políticas para gestionar los riesgos de la IA avanzada, como restringir las exportaciones de chips avanzados y equipos de fabricación de chips a China y reforzar la lucha contra el contrabando de chips.

También pidió la prohibición de las operaciones de destilación de modelos de IA a escala industrial y la exigencia de pruebas de seguridad obligatorias tanto para los modelos abiertos potentes como para los cerrados.

Estas medidas se centrarían en el acceso a los recursos informáticos y obligarían a las empresas a evaluar los modelos avanzados antes de su despliegue o publicación.

Las empresas tecnológicas se oponen a las restricciones prematuras

NVIDIA, Meta, Microsoft y otras empresas tecnológicas advirtieron recientemente a los responsables políticos de Estados Unidos en contra de imponer restricciones prematuras a la IA de pesos abiertos.

Las empresas argumentaron que los modelos abiertos favorecen el crecimiento económico, fomentan la innovación y ayudan a los investigadores a desarrollar herramientas de seguridad de IA más sólidas. Anthropic no firmó la carta del sector.

Amodei reconoció que los modelos de pesos abiertos pueden respaldar la investigación y el crecimiento económico. Sin embargo, argumentó que los responsables políticos no deberían ignorar su posible uso en ciberataques, sistemas militares, vigilancia o el desarrollo de IA más capaz.

En otras noticias de Anthropic, la empresa ha lanzado recientemente Claude Opus 5.