Anthropic siger, at det ikke støtter et forbud mod open-weight AI-modeller

Anthropic har præciseret sin holdning til open-weight AI-modeller, og CEO Dario Amodei siger, at virksomheden aldrig har støttet et forbud. Han advarer dog fortsat om, at kraftfulde åbne modeller kan skabe store sikkerhedsmæssige og geopolitiske risici.

Anthropic rejser bekymringer om Kina

Amodei advarede om, at autoritære regeringer, herunder Kina, kunne bruge avancerede AI-modeller til at styrke militære kapaciteter, udvikle mere kraftfulde systemer og udvide overvågning.

Han udtrykte også bekymring for, at Kina i sidste ende kunne bygge AI-modeller, der overgår dem, der er udviklet i USA.

Anthropic har for nylig beskyldt Alibaba for at bruge 25.000 falske konti til at udtrække funktionalitet fra Claude. Alibaba forbereder sig også efter sigende på at begrænse brugen af Claude Code på tværs af sin arbejdsplads.

Åbne modeller kan muliggøre misbrug

Amodei sagde, at ondsindede aktører kunne bruge kraftfulde AI-modeller til at udføre cyberangreb og andre skadelige aktiviteter.

Open-weight-modeller kan udgøre yderligere risici, fordi udviklere ikke nemt kan overvåge, hvordan folk bruger dem. Når de først er frigivet, kan en virksomhed heller ikke trække modellen tilbage, opdatere dens sikkerhedsforanstaltninger eller forhindre, at modificerede versioner spreder sig.

Amodei afviste påstande om, at åbne modeller automatisk gør AI mere sikker eller konsekvent giver forsvarere en større fordel end angribere.

Amodei foreslår fire sikkerhedsforanstaltninger

Anthropic’s CEO foreslog flere politikker til håndtering af avancerede AI-risici, herunder at begrænse eksporten af avancerede chips og chipfremstillingsudstyr til Kina og øge håndhævelsen mod smugling af chips.

Han opfordrede også til at forbyde destillation af AI-modeller i industriel skala og kræve obligatorisk sikkerhedstest for både kraftfulde åbne og lukkede modeller.

Disse foranstaltninger ville være rettet mod adgang til computerressourcer og kræve, at virksomheder evaluerer avancerede modeller før implementering eller frigivelse.

Teknologivirksomheder modsætter sig tidlige restriktioner

NVIDIA, Meta, Microsoft og andre teknologivirksomheder advarede for nylig amerikanske politikere mod at indføre for tidlige restriktioner på open-weight AI.

Virksomhederne argumenterede for, at åbne modeller understøtter økonomisk vækst, tilskynder innovation og hjælper forskere med at udvikle stærkere AI-sikkerhedsværktøjer. Anthropic underskrev ikke branchebrevet.

Amodei anerkendte, at open-weight-modeller kan understøtte forskning og økonomisk vækst. Han argumenterede dog for, at politikere ikke bør ignorere deres potentielle brug i cyberangreb, militære systemer, overvågning eller udviklingen af mere kapabel AI.

I andre Anthropic-nyheder lancerede virksomheden for nylig Claude Opus 5.