Anthropic zegt dat het het verbieden van open-weight AI-modellen niet steunt

Anthropic heeft zijn standpunt over open-weight AI-modellen verduidelijkt. CEO Dario Amodei zegt dat het bedrijf nooit een verbod heeft gesteund. Hij blijft echter waarschuwen dat krachtige open modellen grote veiligheids- en geopolitieke risico’s kunnen veroorzaken.

Anthropic maakt zich zorgen over China

Amodei waarschuwde dat autoritaire regeringen, waaronder China, geavanceerde AI-modellen zouden kunnen gebruiken om militaire capaciteiten te versterken, krachtigere systemen te ontwikkelen en surveillance uit te breiden.

Hij uitte ook zijn bezorgdheid dat China uiteindelijk AI-modellen zou kunnen bouwen die beter presteren dan de modellen die in de Verenigde Staten zijn ontwikkeld.

Anthropic heeft Alibaba onlangs beschuldigd van het gebruik van 25.000 nepprofielen om mogelijkheden uit Claude te extraheren. Alibaba bereidt ook naar verluidt een beperking voor op het gebruik van Claude Code op de werkvloer.

Open modellen kunnen misbruik mogelijk maken

Amodei zei dat kwaadwillenden krachtige AI-modellen zouden kunnen gebruiken om cyberaanvallen en andere schadelijke activiteiten uit te voeren.

Open-weight modellen kunnen extra risico’s met zich meebrengen, omdat ontwikkelaars niet eenvoudig kunnen volgen hoe mensen ze gebruiken. Eenmaal vrijgegeven kan een bedrijf het model ook niet meer intrekken, de beveiligingen bijwerken of voorkomen dat aangepaste versies zich verspreiden.

Amodei verwierp beweringen dat open modellen AI automatisch veiliger maken of verdedigers consequent een groter voordeel bieden dan aanvallers.

Amodei stelt vier veiligheidsmaatregelen voor

De CEO van Anthropic stelde verschillende beleidsmaatregelen voor om de risico’s van geavanceerde AI te beheersen, waaronder het beperken van de export van geavanceerde chips en chipapparatuur naar China en het opvoeren van de handhaving tegen chipsmokkel.

Ook pleitte hij voor een verbod op grootschalige distillatie van AI-modellen en verplichte veiligheidstests voor zowel krachtige open als gesloten modellen.

Deze maatregelen zouden zich richten op de toegang tot rekenkracht en vereisen dat bedrijven geavanceerde modellen evalueren voordat ze worden uitgerold of vrijgegeven.

Technologiebedrijven verzetten zich tegen vroege beperkingen

NVIDIA, Meta, Microsoft en andere technologiebedrijven hebben Amerikaanse beleidsmakers onlangs gewaarschuwd tegen het invoeren van voortijdige beperkingen op open-weight AI.

De bedrijven voerden aan dat open modellen de economische groei ondersteunen, innovatie aanmoedigen en onderzoekers helpen sterkere AI-veiligheidstools te ontwikkelen. Anthropic ondertekende de branchebrief niet.

Amodei erkende dat open-weight modellen onderzoek en economische groei kunnen ondersteunen. Hij betoogde echter dat beleidsmakers de mogelijke inzet ervan bij cyberaanvallen, militaire systemen, surveillance of de ontwikkeling van krachtigere AI niet mogen negeren.

In ander Anthropic-nieuws lanceerde het bedrijf onlangs Claude Opus 5.