Anthropic siger, at det ikke støtter forbud mod open-weight AI-modeller

Anthropic har præciseret sin holdning til AI-modeller med åbne vægte, hvor CEO Dario Amodei siger, at virksomheden aldrig har støttet et forbud. Han advarer dog fortsat om, at kraftfulde åbne modeller kan skabe store sikkerheds- og geopolitiske risici.

Anthropic udtrykker bekymring over Kina

Amodei advarede om, at autoritære regeringer, herunder Kina, kunne bruge avancerede AI-modeller til at styrke militære kapaciteter, udvikle mere kraftfulde systemer og udvide overvågning.

Han udtrykte også bekymring for, at Kina i sidste ende kunne bygge AI-modeller, der overgår dem, der udvikles i USA.

Anthropic har for nylig beskyldt Alibaba for at bruge 25.000 falske konti til at udtrække funktioner fra Claude. Alibaba forbereder sig efter sigende også på at begrænse brugen af Claude Code på tværs af sin arbejdsplads.

Åbne modeller kan muliggøre misbrug

Amodei sagde, at ondsindede aktører kunne bruge kraftfulde AI-modeller til at udføre cyberangreb og andre skadelige aktiviteter.

Modeller med åbne vægte kan udgøre yderligere risici, fordi udviklere ikke let kan overvåge, hvordan folk bruger dem. Når først en model er frigivet, kan en virksomhed heller ikke trække den tilbage, opdatere dens sikkerhedsforanstaltninger eller forhindre modificerede versioner i at sprede sig.

Amodei afviste påstande om, at åbne modeller automatisk gør AI mere sikker eller konsekvent giver forsvarere en større fordel end angribere.

Amodei foreslår fire sikkerhedsforanstaltninger

Anthropics CEO foreslog flere politikker til håndtering af avancerede AI-risici, herunder at begrænse eksporten af avancerede chips og chipfremstillingsudstyr til Kina og øge håndhævelsen mod chipsmugling.

Han opfordrede også til at forbyde AI-modeldestillering i industriel skala og kræve obligatorisk sikkerhedstest for både kraftfulde åbne og lukkede modeller.

Disse foranstaltninger ville målrette adgangen til computerressourcer og kræve, at virksomheder evaluerer avancerede modeller inden implementering eller frigivelse.

Teknologivirksomheder modsætter sig tidlige begrænsninger

NVIDIA, Meta, Microsoft og andre teknologivirksomheder advarede for nylig amerikanske politiske beslutningstagere mod at indføre for tidlige begrænsninger på AI med åbne vægte.

Virksomhederne argumenterede for, at åbne modeller understøtter økonomisk vækst, fremmer innovation og hjælper forskere med at udvikle stærkere AI-sikkerhedsværktøjer. Anthropic underskrev ikke branchebrevet.

Amodei anerkendte, at modeller med åbne vægte kan understøtte forskning og økonomisk vækst. Han argumenterede dog for, at politiske beslutningstagere ikke bør ignorere deres potentielle anvendelse i cyberangreb, militære systemer, overvågning eller udvikling af mere kapabel AI.

I andre Anthropic-nyheder lancerede virksomheden for nylig Claude Opus 5.