Anthropic zegt geen voorstander te zijn van een verbod op open-weight AI-modellen

Anthropic heeft zijn standpunt over AI-modellen met open gewichten verduidelijkt, waarbij CEO Dario Amodei zegt dat het bedrijf nooit een verbod heeft gesteund. Hij blijft echter waarschuwen dat krachtige open modellen grote veiligheids- en geopolitieke risico’s kunnen veroorzaken.

Anthropic maakt zich zorgen over China

Amodei waarschuwde dat autoritaire regeringen, waaronder China, geavanceerde AI-modellen zouden kunnen gebruiken om militaire capaciteiten te versterken, krachtigere systemen te ontwikkelen en de surveillance uit te breiden.

Hij uitte ook zijn bezorgdheid dat China op termijn AI-modellen zou kunnen bouwen die beter presteren dan die ontwikkeld in de Verenigde Staten.

Anthropic heeft onlangs Alibaba beschuldigd van het gebruik van 25.000 nepprofielen om vaardigheden uit Claude te extraheren. Alibaba bereidt zich naar verluidt ook voor om het gebruik van Claude Code op de hele werkvloer te beperken.

Open modellen kunnen misbruik mogelijk maken

Amodei zei dat kwaadwillende actoren krachtige AI-modellen kunnen gebruiken om cyberaanvallen en andere schadelijke activiteiten uit te voeren.

Modellen met open gewichten kunnen extra risico’s met zich meebrengen omdat ontwikkelaars niet gemakkelijk kunnen monitoren hoe mensen ze gebruiken. Eenmaal vrijgegeven kan een bedrijf het model ook niet meer terugtrekken, de beveiligingsmaatregelen bijwerken of voorkomen dat aangepaste versies zich verspreiden.

Amodei verwierp de beweringen dat open modellen AI automatisch veiliger maken of dat ze verdedigers consequent een groter voordeel bieden dan aanvallers.

Amodei stelt vier veiligheidsmaatregelen voor

De CEO van Anthropic stelde verschillende beleidsmaatregelen voor om geavanceerde AI-risico’s te beheersen, waaronder het beperken van de export van geavanceerde chips en chipfabricageapparatuur naar China en het verscherpen van de handhaving tegen het smokkelen van chips.

Hij pleitte ook voor een verbod op grootschalige distillatie van AI-modellen en voor verplichte veiligheidstests voor zowel krachtige open als gesloten modellen.

Deze maatregelen zouden zich richten op de toegang tot rekenkracht en bedrijven verplichten geavanceerde modellen te evalueren voordat ze worden ingezet of vrijgegeven.

Technologiebedrijven verzetten zich tegen vroege beperkingen

NVIDIA, Meta, Microsoft en andere technologiebedrijven hebben Amerikaanse beleidsmakers onlangs gewaarschuwd om geen voortijdige beperkingen op te leggen aan AI met open gewichten.

De bedrijven betoogden dat open modellen de economische groei ondersteunen, innovatie stimuleren en onderzoekers helpen sterkere AI-veiligheidstools te ontwikkelen. Anthropic heeft de branchebrief niet ondertekend.

Amodei erkende dat modellen met open gewichten onderzoek en economische groei kunnen ondersteunen. Hij betoogde echter dat beleidsmakers hun mogelijke gebruik in cyberaanvallen, militaire systemen, surveillance of de ontwikkeling van capabelere AI niet mogen negeren.

In ander Anthropic-nieuws heeft het bedrijf onlangs Claude Opus 5 gelanceerd.