Anthropic zegt open-weight AI-modellen niet te willen verbieden

Anthropic heeft zijn standpunt over AI-modellen met open gewichten verduidelijkt, waarbij CEO Dario Amodei zegt dat het bedrijf nooit een verbod heeft gesteund. Hij blijft echter waarschuwen dat krachtige open modellen grote veiligheids- en geopolitieke risico’s kunnen creëren.

Anthropic maakt zich zorgen over China

Amodei waarschuwde dat autoritaire regeringen, waaronder China, geavanceerde AI-modellen zouden kunnen gebruiken om militaire capaciteiten te versterken, krachtigere systemen te ontwikkelen en surveillance uit te breiden.

Hij sprak ook zijn bezorgdheid uit dat China uiteindelijk AI-modellen zou kunnen bouwen die beter presteren dan de modellen die in de Verenigde Staten worden ontwikkeld.

Anthropic heeft Alibaba er onlangs van beschuldigd 25.000 nepprofielen te hebben gebruikt om capaciteiten uit Claude te extraheren. Alibaba bereidt zich naar verluidt ook voor om het gebruik van Claude Code op de werkvloer te beperken.

Open modellen kunnen misbruik mogelijk maken

Amodei zei dat kwaadwillenden krachtige AI-modellen kunnen gebruiken om cyberaanvallen en andere schadelijke activiteiten uit te voeren.

Modellen met open gewichten kunnen extra risico’s met zich meebrengen omdat ontwikkelaars niet eenvoudig kunnen monitoren hoe mensen ze gebruiken. Na vrijgave kan een bedrijf het model ook niet terugtrekken, de beveiligingsmaatregelen bijwerken of voorkomen dat gewijzigde versies zich verspreiden.

Amodei verwierp beweringen dat open modellen AI automatisch veiliger maken of verdedigers consequent een groter voordeel bieden dan aanvallers.

Amodei stelt vier veiligheidsmaatregelen voor

De CEO van Anthropic stelde verschillende beleidsmaatregelen voor om geavanceerde AI-risico’s te beheersen, waaronder het beperken van de export van geavanceerde chips en chipmakerapparatuur naar China en het strenger handhaven van de bestrijding van chipsmokkel.

Hij pleitte ook voor een verbod op AI-modeldistillatie op industriële schaal en voor verplichte veiligheidstests voor zowel krachtige open als gesloten modellen.

Deze maatregelen zouden zich richten op de toegang tot rekenresources en vereisen dat bedrijven geavanceerde modellen evalueren voordat ze worden ingezet of vrijgegeven.

Technologiebedrijven verzetten zich tegen vroege beperkingen

NVIDIA, Meta, Microsoft en andere technologiebedrijven hebben Amerikaanse beleidsmakers onlangs gewaarschuwd tegen het invoeren van voorbarige beperkingen op AI met open gewichten.

De bedrijven betoogden dat open modellen de economische groei ondersteunen, innovatie stimuleren en onderzoekers helpen betere AI-veiligheidstools te ontwikkelen. Anthropic heeft de branchebrief niet ondertekend.

Amodei erkende dat modellen met open gewichten onderzoek en economische groei kunnen ondersteunen. Hij betoogde echter dat beleidsmakers hun potentiële gebruik in cyberaanvallen, militaire systemen, surveillance of de ontwikkeling van meer capabele AI niet mogen negeren.

In ander nieuws van Anthropic lanceerde het bedrijf onlangs Claude Opus 5.