Anthropic sier at det ikke støtter et forbud mot åpenvekt AI-modeller

Anthropic har avklart sin posisjon om open-weight AI-modeller, og konsernsjef Dario Amodei sier at selskapet aldri har støttet et forbud. Han fortsetter imidlertid å advare om at kraftige åpne modeller kan skape store sikkerhets- og geopolitiske risikoer.

Anthropic uttrykker bekymring for Kina

Amodei advarte om at autoritære regjeringer, inkludert Kina, kan bruke avanserte AI-modeller til å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåkning.

Han uttrykte også bekymring for at Kina etter hvert kan bygge AI-modeller som overgår de som er utviklet i USA.

Anthropic har nylig anklaget Alibaba for å ha brukt 25 000 falske kontoer for å hente ut funksjoner fra Claude. Alibaba forbereder også angivelig å begrense bruken av Claude Code i sine arbeidsmiljøer.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kan bruke kraftige AI-modeller til å gjennomføre cyberangrep og annen skadelig aktivitet.

Open-weight-modeller kan medføre ytterligere risikoer fordi utviklere ikke enkelt kan overvåke hvordan folk bruker dem. Når de er utgitt, kan et selskap heller ikke trekke tilbake modellen, oppdatere sikkerhetstiltakene eller hindre at modifiserte versjoner sprer seg.

Amodei avviste påstander om at åpne modeller automatisk gjør AI tryggere eller konsekvent gir forsvarere en større fordel enn angripere.

Amodei foreslår fire sikkerhetstiltak

Anthropic-sjefen foreslo flere retningslinjer for å håndtere risikoer ved avansert AI, inkludert å begrense eksporten av avanserte brikker og brikkeproduksjonsutstyr til Kina og øke håndhevelsen mot smugling av brikker.

Han ba også om forbud mot industriell skala AI-modell-destillasjon og krav om obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til datakraft og kreve at selskaper evaluerer avanserte modeller før distribusjon eller utgivelse.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre forhastede restriksjoner på open-weight AI.

Selskapene argumenterte for at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere AI-sikkerhetsverktøy. Anthropic undertegnet ikke bransjebrevet.

Amodei erkjente at open-weight-modeller kan støtte forskning og økonomisk vekst. Han hevdet imidlertid at beslutningstakere ikke bør ignorere deres potensielle bruk i cyberangrep, militære systemer, overvåkning eller utviklingen av mer kapabel AI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.