Anthropic sier det ikke støtter et forbud mot AI-modeller med åpen vekt

Anthropic har avklart sitt standpunkt om åpen vekt-AI-modeller, og administrerende direktør Dario Amodei sier at selskapet aldri har støttet et forbud. Imidlertid fortsetter han å advare om at kraftige åpne modeller kan skape store sikkerhetsmessige og geopolitiske risikoer.

Anthropic uttrykker bekymring om Kina

Amodei advarte om at autoritære regjeringer, inkludert Kina, kan bruke avanserte AI-modeller til å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåking.

Han uttrykte også bekymring for at Kina til slutt kan bygge AI-modeller som overgår de som er utviklet i USA.

Anthropic har nylig anklaget Alibaba for å ha brukt 25 000 falske kontoer for å trekke ut funksjonalitet fra Claude. Alibaba skal angivelig også forberede seg på å begrense bruken av Claude Code på arbeidsplassen.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kunne bruke kraftige AI-modeller til å gjennomføre cyberangrep og andre skadelige aktiviteter.

Åpen vekt-modeller kan innebære ytterligere risikoer fordi utviklere ikke enkelt kan overvåke hvordan folk bruker dem. Når en modell først er utgitt, kan et selskap heller ikke trekke den tilbake, oppdatere sikkerhetsmekanismene eller hindre at modifiserte versjoner sprer seg.

Amodei avviste påstander om at åpne modeller automatisk gjør AI tryggere eller konsekvent gir forsvarerne en større fordel enn angriperne.

Amodei foreslår fire sikkerhetstiltak

Administrerende direktør i Anthropic foreslo flere retningslinjer for å håndtere avanserte AI-risikoer, inkludert å begrense eksport av avanserte brikker og utstyr for brikkeproduksjon til Kina og å øke håndhevelsen mot smugling av brikker.

Han tok også til orde for å forby industriell skala destillasjonsoperasjoner for AI-modeller og å kreve obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til beregningsressurser og kreve at selskaper evaluerer avanserte modeller før utrulling eller lansering.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre for tidlige restriksjoner på åpen vekt-AI.

Selskapene argumenterte for at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere verktøy for AI-sikkerhet. Anthropic undertegnet ikke bransjebrevet.

Amodei erkjente at åpen vekt-modeller kan støtte forskning og økonomisk vekst. Han argumenterte imidlertid for at beslutningstakere ikke bør ignorere deres potensielle bruk i cyberangrep, militære systemer, overvåking eller utvikling av mer kapabel AI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.