Anthropic dice que no apoya la prohibición de los modelos de IA de pesos abiertos

Anthropic ha aclarado su postura sobre los modelos de IA de código abierto, y su CEO, Dario Amodei, afirma que la compañía nunca ha apoyado una prohibición. Sin embargo, sigue advirtiendo que los modelos abiertos potentes podrían generar importantes riesgos de seguridad y geopolíticos.

Anthropic expresa su preocupación por China

Amodei advirtió que gobiernos autoritarios, incluido China, podrían usar modelos avanzados de IA para fortalecer sus capacidades militares, desarrollar sistemas más potentes y ampliar la vigilancia.

También expresó su preocupación por la posibilidad de que China acabe construyendo modelos de IA que superen a los desarrollados en Estados Unidos.

Anthropic ha acusado recientemente a Alibaba de utilizar 25.000 cuentas falsas para extraer capacidades de Claude. Según informes, Alibaba también se está preparando para restringir el uso de Claude Code en su entorno laboral.

Los modelos abiertos podrían facilitar un uso indebido

Amodei afirmó que actores malintencionados podrían usar modelos de IA potentes para llevar a cabo ciberataques y otras actividades dañinas.

Los modelos de código abierto pueden presentar riesgos adicionales porque los desarrolladores no pueden supervisar fácilmente cómo se utilizan. Una vez publicados, una empresa tampoco puede retirar el modelo, actualizar sus salvaguardas ni evitar que se propaguen versiones modificadas.

Amodei rechazó las afirmaciones de que los modelos abiertos hacen que la IA sea automáticamente más segura o que proporcionen siempre a los defensores una ventaja mayor que a los atacantes.

Amodei propone cuatro medidas de seguridad

El CEO de Anthropic propuso varias políticas para gestionar los riesgos de la IA avanzada, como restringir las exportaciones de chips avanzados y equipos de fabricación de chips a China, y aumentar la aplicación de la ley contra el contrabando de chips.

También pidió prohibir las operaciones de destilación de modelos de IA a escala industrial y exigir pruebas de seguridad obligatorias tanto para modelos abiertos potentes como para modelos cerrados.

Estas medidas se centrarían en el acceso a los recursos informáticos y obligarían a las empresas a evaluar los modelos avanzados antes de su despliegue o publicación.

Las empresas tecnológicas se oponen a las restricciones prematuras

NVIDIA, Meta, Microsoft y otras empresas tecnológicas advirtieron recientemente a los legisladores estadounidenses que no introdujeran restricciones prematuras a la IA de código abierto.

Las empresas argumentaron que los modelos abiertos apoyan el crecimiento económico, fomentan la innovación y ayudan a los investigadores a desarrollar herramientas de seguridad de IA más sólidas. Anthropic no firmó la carta del sector.

Amodei reconoció que los modelos de código abierto pueden apoyar la investigación y el crecimiento económico. Sin embargo, argumentó que los legisladores no deberían ignorar su posible uso en ciberataques, sistemas militares, vigilancia o el desarrollo de una IA más potente.

En otras noticias sobre Anthropic, la empresa lanzó recientemente Claude Opus 5.