Anthropic zegt het verbieden van open-weight AI-modellen niet te steunen

Anthropic heeft zijn standpunt over open-weight AI-modellen verduidelijkt, waarbij CEO Dario Amodei zegt dat het bedrijf een verbod nooit heeft gesteund. Hij blijft echter waarschuwen dat krachtige open modellen tot grote veiligheids- en geopolitieke risico’s kunnen leiden.

Anthropic uit zorgen over China

Amodei waarschuwde dat autoritaire regeringen, waaronder China, geavanceerde AI-modellen kunnen gebruiken om militaire capaciteiten te versterken, krachtigere systemen te ontwikkelen en surveillance uit te breiden.

Hij uitte ook zijn bezorgdheid dat China uiteindelijk AI-modellen zou kunnen bouwen die beter presteren dan de modellen die in de Verenigde Staten zijn ontwikkeld.

Anthropic heeft onlangs Alibaba beschuldigd van het gebruik van 25.000 valse accounts om mogelijkheden uit Claude te extraheren. Alibaba bereidt zich naar verluidt ook voor om het gebruik van Claude Code op de werkplek te beperken.

Open modellen kunnen misbruik mogelijk maken

Volgens Amodei kunnen kwaadwillenden krachtige AI-modellen gebruiken om cyberaanvallen en andere schadelijke activiteiten uit te voeren.

Open-weight modellen kunnen extra risico’s met zich meebrengen omdat ontwikkelaars moeilijk kunnen volgen hoe mensen ze gebruiken. Eenmaal vrijgegeven kan een bedrijf het model ook niet meer intrekken, de beveiligingsmaatregelen bijwerken of voorkomen dat gewijzigde versies zich verspreiden.

Amodei wees beweringen van de hand dat open modellen AI automatisch veiliger maken of verdedigers consequent een groter voordeel bieden dan aanvallers.

Amodei stelt vier veiligheidsmaatregelen voor

De CEO van Anthropic stelde diverse beleidsmaatregelen voor om de risico’s van geavanceerde AI te beheersen, waaronder het beperken van de export van geavanceerde chips en chipmachines naar China en strengere handhaving tegen het smokkelen van chips.

Hij pleitte ook voor een verbod op het op industriële schaal extraheren van AI-modellen via distillatie en voor verplichte veiligheidstests voor zowel krachtige open als gesloten modellen.

Deze maatregelen zouden gericht zijn op de toegang tot rekenkracht en vereisen dat bedrijven geavanceerde modellen evalueren voordat ze worden ingezet of vrijgegeven.

Technologiebedrijven verzetten zich tegen vroegtijdige beperkingen

NVIDIA, Meta, Microsoft en andere technologiebedrijven hebben Amerikaanse beleidsmakers onlangs gewaarschuwd geen overhaaste beperkingen op open-weight AI in te voeren.

De bedrijven betoogden dat open modellen de economische groei ondersteunen, innovatie aanmoedigen en onderzoekers helpen betere AI-veiligheidshulpmiddelen te ontwikkelen. Anthropic heeft de branchebrief niet ondertekend.

Amodei erkende dat open-weight modellen onderzoek en economische groei kunnen ondersteunen. Hij stelde echter dat beleidsmakers hun mogelijke gebruik bij cyberaanvallen, militaire systemen, surveillance of de ontwikkeling van nog capabelere AI niet mogen negeren.

In ander Anthropic-nieuws heeft het bedrijf onlangs Claude Opus 5 gelanceerd.