Anthropic sier de ikke støtter et forbud mot AI-modeller med åpne vekter

Anthropic har klargjort sin holdning til KI-modeller med åpne vekter, og administrerende direktør Dario Amodei sier at selskapet aldri har støttet et forbud. Han advarer imidlertid fortsatt om at kraftige åpne modeller kan skape store sikkerhets- og geopolitiske risikoer.

Anthropic uttrykker bekymring for Kina

Amodei advarte om at autoritære regjeringer, inkludert Kina, kunne bruke avanserte KI-modeller til å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåkning.

Han uttrykte også bekymring for at Kina etter hvert kan bygge KI-modeller som overgår de som er utviklet i USA.

Anthropic har nylig anklaget Alibaba for å ha brukt 25 000 falske kontoer for å hente ut egenskaper fra Claude. Alibaba forbereder seg angivelig også på å begrense bruken av Claude Code på tvers av virksomheten.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kan bruke kraftige KI-modeller til å gjennomføre cyberangrep og andre skadelige aktiviteter.

Modeller med åpne vekter kan utgjøre ytterligere risikoer fordi utviklere ikke enkelt kan overvåke hvordan folk bruker dem. Når modellen først er lansert, kan et selskap heller ikke trekke den tilbake, oppdatere sikkerhetsmekanismene eller hindre at modifiserte versjoner sprer seg.

Amodei avviste påstander om at åpne modeller automatisk gjør KI tryggere eller konsekvent gir forsvarere en større fordel enn angripere.

Amodei foreslår fire sikkerhetstiltak

Anthropic-sjefen foreslo flere strategier for å håndtere avanserte KI-risikoer, inkludert å begrense eksporten av avanserte brikker og utstyr for brikkeproduksjon til Kina, og å øke håndhevelsen mot smugling av brikker.

Han ba også om et forbud mot industriell destillasjon av KI-modeller og krevde obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til beregningsressurser og kreve at selskaper evaluerer avanserte modeller før utrulling eller lansering.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre for tidlige restriksjoner på KI med åpne vekter.

Selskapene argumenterte for at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere KI-sikkerhetsverktøy. Anthropic undertegnet ikke bransjebrevet.

Amodei erkjente at modeller med åpne vekter kan støtte forskning og økonomisk vekst. Han argumenterte imidlertid for at beslutningstakere ikke bør ignorere deres potensielle bruk i cyberangrep, militære systemer, overvåkning eller utvikling av mer kapabel KI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.