Anthropic siger, at det ikke støtter forbud mod AI-modeller med åbne vægte

Anthropic har præciseret sin holdning til open-weight AI-modeller, og administrerende direktør Dario Amodei siger, at virksomheden aldrig har støttet et forbud. Han advarer dog fortsat om, at kraftfulde åbne modeller kan skabe store sikkerheds- og geopolitiske risici.

Anthropic rejser bekymringer om Kina

Amodei advarede om, at autoritære regeringer, herunder Kina, kunne anvende avancerede AI-modeller til at styrke militære kapaciteter, udvikle mere kraftfulde systemer og udvide overvågning.

Han udtrykte også bekymring for, at Kina i sidste ende kunne bygge AI-modeller, der overgår dem, der er udviklet i USA.

Anthropic har for nylig beskyldt Alibaba for at bruge 25.000 falske konti til at udtrække funktioner fra Claude. Alibaba forbereder sig angiveligt også på at begrænse brugen af Claude Code på sin arbejdsplads.

Åbne modeller kan muliggøre misbrug

Amodei sagde, at ondsindede aktører kunne bruge kraftfulde AI-modeller til at udføre cyberangreb og andre skadelige aktiviteter.

Open-weight-modeller kan udgøre yderligere risici, fordi udviklere ikke nemt kan overvåge, hvordan folk bruger dem. Når modellen er frigivet, kan en virksomhed heller ikke trække den tilbage, opdatere dens sikkerhedsforanstaltninger eller forhindre, at ændrede versioner spredes.

Amodei afviste påstande om, at åbne modeller automatisk gør AI mere sikker eller konsekvent giver forsvarerne en større fordel end angriberne.

Amodei foreslår fire sikkerhedsforanstaltninger

Anthropics administrerende direktør foreslog flere politikker til håndtering af avancerede AI-risici, herunder at begrænse eksporten af avancerede chips og udstyr til chipproduktion til Kina og øge håndhævelsen mod smugling af chips.

Han opfordrede også til et forbud mod operationer med destillation af AI-modeller i industriel skala og at kræve obligatorisk sikkerhedstestning for både kraftfulde åbne og lukkede modeller.

Disse foranstaltninger ville målrette adgangen til computerressourcer og kræve, at virksomheder evaluerede avancerede modeller før implementering eller frigivelse.

Teknologivirksomheder modsætter sig tidlige restriktioner

NVIDIA, Meta, Microsoft og andre teknologivirksomheder advarede for nylig amerikanske politiske beslutningstagere mod at indføre for tidlige restriktioner for open-weight AI.

Virksomhederne argumenterede for, at åbne modeller understøtter økonomisk vækst, tilskynder til innovation og hjælper forskere med at udvikle stærkere AI-sikkerhedsværktøjer. Anthropic underskrev ikke branchebrevet.

Amodei anerkendte, at open-weight-modeller kan understøtte forskning og økonomisk vækst. Han hævdede dog, at politiske beslutningstagere ikke bør ignorere deres potentielle anvendelse i cyberangreb, militære systemer, overvågning eller udviklingen af mere kapabel AI.

I andre Anthropic-nyheder lancerede virksomheden for nylig Claude Opus 5.