Anthropic säger att det inte stödjer ett förbud mot open-weight AI-modeller

Anthropic har tydliggjort sin ståndpunkt om öppenvikts-AI-modeller, och vd Dario Amodei säger att företaget aldrig har stöttat ett förbud. Han varnar dock fortsatt för att kraftfulla öppna modeller kan skapa stora säkerhets- och geopolitiska risker.

Anthropic uttrycker oro över Kina

Amodei varnade för att auktoritära regeringar, inklusive Kina, skulle kunna använda avancerade AI-modeller för att stärka militära förmågor, utveckla kraftfullare system och utöka övervakning.

Han uttryckte också oro för att Kina så småningom skulle kunna bygga AI-modeller som överträffar de som utvecklas i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att extrahera funktioner från Claude. Alibaba förbereder sig enligt uppgift också för att begränsa användningen av Claude Code på sina arbetsplatser.

Öppna modeller kan möjliggöra missbruk

Amodei sade att illasinnade aktörer skulle kunna använda kraftfulla AI-modeller för att genomföra cyberattacker och andra skadliga aktiviteter.

Öppenviktsmodeller kan innebära ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur människor använder dem. När de väl har släppts kan ett företag inte heller dra tillbaka modellen, uppdatera dess skyddsmekanismer eller förhindra att modifierade versioner sprids.

Amodei tillbakavisade påståenden om att öppna modeller automatiskt gör AI säkrare eller konsekvent ger försvarare ett större övertag än angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera riktlinjer för att hantera avancerade AI-risker, bland annat att begränsa exporten av avancerade chip och utrustning för chiptillverkning till Kina samt öka efterlevnaden av förbudet mot chipsmuggling.

Han efterlyste också ett förbud mot storskalig destillering av AI-modeller och krav på obligatorisk säkerhetstestning av både kraftfulla öppna och slutna modeller.

Dessa åtgärder skulle fokusera på tillgång till datorkraft och kräva att företag utvärderar avancerade modeller före driftsättning eller lansering.

Teknikföretag motsätter sig tidiga restriktioner

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa för tidiga begränsningar av öppenvikts-AI.

Företagen hävdade att öppna modeller stödjer ekonomisk tillväxt, uppmuntrar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic undertecknade inte branschbrevet.

Amodei medgav att öppenviktsmodeller kan stödja forskning och ekonomisk tillväxt. Han hävdade dock att beslutsfattare inte bör ignorera deras potentiella användning i cyberattacker, militära system, övervakning eller utveckling av mer kapabel AI.

I andra nyheter om Anthropic lanserade företaget nyligen Claude Opus 5.