Anthropic zegt dat het geen verbod op open-weight AI-modellen steunt

Anthropic heeft zijn standpunt over open-weight AI-modellen verduidelijkt. CEO Dario Amodei stelt dat het bedrijf nooit voor een verbod heeft gepleit. Wel blijft hij waarschuwen dat krachtige open modellen grote veiligheids- en geopolitieke risico’s kunnen opleveren.

Anthropic uit zorgen over China

Amodei waarschuwde dat autoritaire regeringen, waaronder China, geavanceerde AI-modellen kunnen inzetten om militaire capaciteiten te versterken, krachtigere systemen te ontwikkelen en surveillance uit te breiden.

Hij uitte ook zijn bezorgdheid dat China uiteindelijk AI-modellen zou kunnen bouwen die beter presteren dan de modellen die in de Verenigde Staten zijn ontwikkeld.

Anthropic heeft Alibaba er onlangs van beschuldigd 25.000 nepaccounts te hebben gebruikt om functionaliteiten uit Claude te onttrekken. Naar verluidt bereidt Alibaba zich ook voor om het gebruik van Claude Code binnen zijn bedrijf te beperken.

Open modellen kunnen misbruik mogelijk maken

Amodei zei dat kwaadwillenden krachtige AI-modellen kunnen gebruiken voor cyberaanvallen en andere schadelijke activiteiten.

Open-weight modellen kunnen extra risico’s met zich meebrengen omdat ontwikkelaars niet eenvoudig kunnen controleren hoe mensen ze gebruiken. Eenmaal vrijgegeven kan een bedrijf het model ook niet meer terugtrekken, de beveiligingsmaatregelen bijwerken of voorkomen dat aangepaste versies zich verspreiden.

Amodei verwierp de bewering dat open modellen AI automatisch veiliger maken of verdedigers consequent een groter voordeel bieden dan aanvallers.

Amodei stelt vier veiligheidsmaatregelen voor

De CEO van Anthropic stelde verschillende beleidsmaatregelen voor om de risico’s van geavanceerde AI te beheersen, waaronder exportbeperkingen voor geavanceerde chips en chipmachines naar China en strengere handhaving tegen chipsmokkel.

Hij pleitte ook voor een verbod op industriële distillatie van AI-modellen en verplichte veiligheidstests voor zowel krachtige open als gesloten modellen.

Deze maatregelen zouden zich richten op de toegang tot rekenkracht en bedrijven verplichten om geavanceerde modellen te evalueren voordat ze worden ingezet of vrijgegeven.

Technologiebedrijven verzetten zich tegen vroege restricties

NVIDIA, Meta, Microsoft en andere technologiebedrijven hebben Amerikaanse beleidsmakers onlangs gewaarschuwd geen overhaaste restricties op te leggen aan open-weight AI.

De bedrijven betoogden dat open modellen economische groei ondersteunen, innovatie aanmoedigen en onderzoekers helpen sterkere AI-veiligheidstools te ontwikkelen. Anthropic ondertekende de sectorbrief niet.

Amodei erkende dat open-weight modellen onderzoek en economische groei kunnen ondersteunen. Toch vindt hij dat beleidsmakers het mogelijke gebruik ervan bij cyberaanvallen, militaire systemen, surveillance of de ontwikkeling van nog krachtigere AI niet mogen negeren.

In ander Anthropic-nieuws: het bedrijf lanceerde onlangs Claude Opus 5.