Anthropic siger, at det ikke støtter et forbud mod open-weight AI-modeller

Anthropic har afklaret sin position om open-weight AI-modeller, og CEO Dario Amodei siger, at virksomheden aldrig har støttet et forbud. Han advarer dog fortsat om, at kraftige åbne modeller kan skabe store sikkerheds- og geopolitiske risici.

Anthropic rejser bekymringer om Kina

Amodei advarede om, at autoritære regeringer, herunder Kina, kunne bruge avancerede AI-modeller til at styrke militære kapaciteter, udvikle mere kraftfulde systemer og udvide overvågning.

Han udtrykte også bekymring for, at Kina i sidste ende kunne bygge AI-modeller, der overgår dem, der er udviklet i USA.

Anthropic har for nylig beskyldt Alibaba for at bruge 25.000 falske konti til at udtrække kapaciteter fra Claude. Alibaba forbereder sig ifølge rapporter også på at begrænse brugen af Claude Code på tværs af sin arbejdsplads.

Åbne modeller kan muliggøre misbrug

Amodei sagde, at ondsindede aktører kunne bruge kraftfulde AI-modeller til at udføre cyberangreb og andre skadelige aktiviteter.

Open-weight-modeller kan udgøre yderligere risici, fordi udviklere ikke nemt kan overvåge, hvordan folk bruger dem. Når en model først er frigivet, kan en virksomhed heller ikke trække den tilbage, opdatere dens sikkerhedsforanstaltninger eller forhindre, at modificerede versioner spredes.

Amodei afviste påstande om, at åbne modeller automatisk gør AI mere sikker eller konsekvent giver forsvarere en større fordel end angribere.

Amodei foreslår fire sikkerhedsforanstaltninger

Anthropics CEO foreslog flere politikker til at håndtere avancerede AI-risici, herunder at begrænse eksporten af avancerede chips og chipfremstillingsudstyr til Kina og at øge håndhævelsen mod chipsmugling.

Han opfordrede også til at forbyde industriel-skala AI-modeldestillationsoperationer og til at kræve obligatorisk sikkerhedstestning for både kraftfulde åbne og lukkede modeller.

Disse foranstaltninger ville sigte mod adgang til computerressourcer og kræve, at virksomheder evaluerer avancerede modeller inden implementering eller frigivelse.

Teknologivirksomheder modsætter sig tidlige restriktioner

NVIDIA, Meta, Microsoft og andre teknologivirksomheder advarede for nylig amerikanske politiske beslutningstagere mod at indføre for tidlige restriktioner på open-weight AI.

Virksomhederne argumenterede for, at åbne modeller understøtter økonomisk vækst, tilskynder innovation og hjælper forskere med at udvikle stærkere AI-sikkerhedsværktøjer. Anthropic underskrev ikke branchebrevet.

Amodei anerkendte, at open-weight-modeller kan understøtte forskning og økonomisk vækst. Han argumenterede dog for, at politiske beslutningstagere ikke bør ignorere deres potentielle brug i cyberangreb, militære systemer, overvågning eller udviklingen af mere kapabel AI.

I andre Anthropic-nyheder lancerede virksomheden for nylig Claude Opus 5.