Anthropic sier de ikke støtter et forbud mot AI-modeller med åpne vekter

Anthropic har avklart sin holdning til åpenvekt KI-modeller, og administrerende direktør Dario Amodei sier at selskapet aldri har støttet et forbud. Han advarer imidlertid fortsatt om at kraftige åpne modeller kan skape store sikkerhets- og geopolitiske risikoer.

Anthropic uttrykker bekymring for Kina

Amodei advarte om at autoritære regjeringer, inkludert Kina, kunne bruke avanserte KI-modeller til å styrke militære kapasiteter, utvikle kraftigere systemer og utvide overvåkning.

Han ga også uttrykk for bekymring for at Kina etter hvert kunne bygge KI-modeller som overgår dem som er utviklet i USA.

Anthropic har nylig anklaget Alibaba for å bruke 25 000 falske kontoer for å trekke ut ferdigheter fra Claude. Alibaba forbereder seg angivelig også på å begrense bruken av Claude Code på sine arbeidsplasser.

Åpne modeller kan muliggjøre misbruk

Amodei sa at ondsinnede aktører kunne bruke kraftige KI-modeller til å gjennomføre dataangrep og andre skadelige aktiviteter.

Åpenvektmodeller kan innebære ytterligere risikoer fordi utviklere ikke enkelt kan overvåke hvordan folk bruker dem. Når en modell er utgitt, kan et selskap heller ikke trekke den tilbake, oppdatere sikkerhetstiltakene eller forhindre at modifiserte versjoner sprer seg.

Amodei avviste påstander om at åpne modeller automatisk gjør KI tryggere eller konsekvent gir forsvarere en større fordel enn angriperne.

Amodei foreslår fire sikkerhetstiltak

Administrerende direktør i Anthropic foreslo flere politikker for å håndtere avanserte KI-risikoer, inkludert å begrense eksport av avanserte brikker og utstyr til brikkeproduksjon til Kina og øke håndhevingen mot smugling av brikker.

Han ba også om et forbud mot industriell skala destillasjon av KI-modeller og krevde obligatorisk sikkerhetstesting for både kraftige åpne og lukkede modeller.

Disse tiltakene ville rette seg mot tilgang til dataressurser og kreve at selskaper evaluerer avanserte modeller før utrulling eller utgivelse.

Teknologiselskaper motsetter seg tidlige restriksjoner

NVIDIA, Meta, Microsoft og andre teknologiselskaper advarte nylig amerikanske beslutningstakere mot å innføre for tidlige restriksjoner på åpenvekt KI.

Selskapene hevdet at åpne modeller støtter økonomisk vekst, oppmuntrer til innovasjon og hjelper forskere med å utvikle sterkere KI-sikkerhetsverktøy. Anthropic undertegnet ikke bransjebrevet.

Amodei anerkjente at åpenvektmodeller kan støtte forskning og økonomisk vekst. Han hevdet imidlertid at beslutningstakere ikke bør ignorere deres potensielle bruk i dataangrep, militære systemer, overvåkning eller utvikling av mer kapabel KI.

I andre Anthropic-nyheter lanserte selskapet nylig Claude Opus 5.