Anthropic dice no apoyar la prohibición de modelos de IA de pesos abiertos

Anthropic ha aclarado su postura sobre los modelos de IA de pesos abiertos, y el CEO Dario Amodei ha afirmado que la empresa nunca ha apoyado una prohibición. Sin embargo, sigue advirtiendo que los potentes modelos abiertos podrían generar importantes riesgos de seguridad y geopolíticos.

Anthropic plantea preocupaciones sobre China

Amodei advirtió que gobiernos autoritarios, incluido el de China, podrían utilizar modelos avanzados de IA para reforzar sus capacidades militares, desarrollar sistemas más potentes y ampliar la vigilancia.

También expresó su preocupación por la posibilidad de que China termine construyendo modelos de IA que superen a los desarrollados en Estados Unidos.

Anthropic ha acusado recientemente a Alibaba de haber utilizado 25 000 cuentas falsas para extraer capacidades de Claude. También se informa que Alibaba se dispone a restringir el uso de Claude Code en su entorno laboral.

Los modelos abiertos podrían facilitar el uso indebido

Amodei afirmó que actores maliciosos podrían usar potentes modelos de IA para llevar a cabo ciberataques y otras actividades dañinas.

Los modelos de pesos abiertos pueden presentar riesgos adicionales porque los desarrolladores no pueden supervisar fácilmente el uso que se hace de ellos. Una vez liberados, una empresa tampoco puede retirar el modelo, actualizar sus salvaguardas ni evitar que las versiones modificadas se propaguen.

Amodei rechazó las afirmaciones de que los modelos abiertos hacen la IA automáticamente más segura o proporcionan de forma constante a los defensores una ventaja mayor que a los atacantes.

Amodei propone cuatro medidas de seguridad

El CEO de Anthropic propuso varias políticas para gestionar los riesgos de la IA avanzada, entre ellas restringir las exportaciones de chips avanzados y equipos de fabricación de chips a China, y aumentar la aplicación de la ley contra el contrabando de chips.

También pidió la prohibición de las operaciones de destilación de modelos de IA a escala industrial y la obligación de realizar pruebas de seguridad para los potentes modelos, tanto abiertos como cerrados.

Estas medidas apuntarían al acceso a los recursos informáticos y obligarían a las empresas a evaluar los modelos avanzados antes de su despliegue o liberación.

Las empresas tecnológicas se oponen a las restricciones prematuras

NVIDIA, Meta, Microsoft y otras empresas tecnológicas advirtieron recientemente a los legisladores estadounidenses contra la introducción de restricciones prematuras a la IA de pesos abiertos.

Las empresas argumentaron que los modelos abiertos apoyan el crecimiento económico, fomentan la innovación y ayudan a los investigadores a desarrollar herramientas de seguridad de IA más sólidas. Anthropic no firmó la carta sectorial.

Amodei reconoció que los modelos de pesos abiertos pueden apoyar la investigación y el crecimiento económico. Sin embargo, argumentó que los responsables políticos no deberían ignorar su posible uso en ciberataques, sistemas militares, vigilancia o en el desarrollo de IA más capaz.

En otras noticias sobre Anthropic, la empresa lanzó recientemente Claude Opus 5.