Anthropic sier det ikke støtter et forbud mot AI-modeller med åpne vekter

Anthropic har avklart sitt syn på open-weight AI-modeller, med administrerende direktør Dario Amodei som sier at selskapet aldri har støttet et forbud. Han fortsetter imidlertid å advare om at kraftige åpne modeller kan skape store sikkerhets- og geopolitiske risikoer.

Anthropic reiser bekymringer om Kina

Amodei advarte om at autoritære regjeringer, inkludert Kina, kunne bruke avanserte AI-modeller for å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåkning.

Han uttrykte også bekymring for at Kina til slutt kunne bygge AI-modeller som overgår de som er utviklet i USA.

Anthropic har nylig anklaget Alibaba for å ha brukt 25 000 falske kontoer for å trekke ut egenskaper fra Claude. Alibaba forbereder seg angivelig også på å begrense bruken av Claude Code i bedriften.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kunne bruke kraftige AI-modeller til å gjennomføre cyberangrep og andre skadelige aktiviteter.

Open-weight-modeller kan utgjøre ytterligere risiko fordi utviklere ikke lett kan overvåke hvordan folk bruker dem. Når først de er utgitt, kan et selskap heller ikke trekke tilbake modellen, oppdatere sikkerhetstiltakene eller hindre at modifiserte versjoner spres.

Amodei avviste påstander om at åpne modeller automatisk gjør AI tryggere eller konsekvent gir forsvarere en større fordel enn angripere.

Amodei foreslår fire sikkerhetstiltak

Administrerende direktør i Anthropic la fram flere retningslinjer for å håndtere avanserte AI-risikoer, inkludert å begrense eksport av avanserte brikker og brikkeproduksjonsutstyr til Kina og øke håndhevingen mot smugling av brikker.

Han ba også om forbud mot industriskala destillasjonsoperasjoner av AI-modeller og krevde obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til dataressurser og kreve at selskaper evaluerer avanserte modeller før utrulling eller utgivelse.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre for tidlige restriksjoner på open-weight AI.

Selskapene argumenterte med at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere AI-sikkerhetsverktøy. Anthropic undertegnet ikke bransjebrevet.

Amodei erkjente at open-weight-modeller kan støtte forskning og økonomisk vekst. Han hevdet imidlertid at beslutningstakere ikke bør ignorere deres potensielle bruk i cyberangrep, militære systemer, overvåkning eller utviklingen av mer kapabel AI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.