Anthropic sier at de ikke støtter å forby Open-Weight AI-modeller

Anthropic har klargjort sin holdning til open-weight AI-modeller, med administrerende direktør Dario Amodei som uttaler at selskapet aldri har støttet et forbud. Han advarer imidlertid fortsatt om at kraftige åpne modeller kan skape store sikkerhets- og geopolitiske risikoer.

Anthropic uttrykker bekymring om Kina

Amodei advarte om at autoritære myndigheter, inkludert Kina, kunne bruke avanserte AI-modeller til å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåkning.

Han uttrykte også bekymring for at Kina etter hvert kunne bygge AI-modeller som overgår de utviklet i USA.

Anthropic har nylig anklaget Alibaba for å ha brukt 25 000 falske kontoer for å trekke ut kapasiteter fra Claude. Alibaba forbereder seg angivelig også på å begrense bruken av Claude Code på tvers av sine arbeidsplasser.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kunne bruke kraftige AI-modeller til å utføre cyberangrep og andre skadelige aktiviteter.

Open-weight-modeller kan innebære ytterligere risikoer fordi utviklere ikke enkelt kan overvåke hvordan folk bruker dem. Når de først er sluppet, kan et selskap heller ikke trekke tilbake modellen, oppdatere dens sikkerhetstiltak eller forhindre at modifiserte versjoner sprer seg.

Amodei avviste påstander om at åpne modeller automatisk gjør AI tryggere eller konsekvent gir forsvarere en større fordel enn angripere.

Amodei foreslår fire sikkerhetstiltak

Administrerende direktør i Anthropic foreslo flere retningslinjer for å håndtere avanserte AI-risikoer, inkludert å begrense eksport av avanserte brikker og brikkeproduksjonsutstyr til Kina og øke håndhevelsen mot smugling av brikker.

Han ba også om forbud mot industriskala operasjoner for destillasjon av AI-modeller og obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til databehandlingsressurser og kreve at selskaper evaluerer avanserte modeller før utrulling eller publisering.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre for tidlige restriksjoner på open-weight AI.

Selskapene argumenterte for at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere AI-sikkerhetsverktøy. Anthropic signerte ikke bransjebrevet.

Amodei anerkjente at open-weight-modeller kan støtte forskning og økonomisk vekst. Han argumenterte imidlertid for at beslutningstakere ikke bør ignorere deres potensielle bruk i cyberangrep, militære systemer, overvåkning eller utvikling av mer kapabel AI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.