Anthropic säger att de inte stödjer förbud mot AI-modeller med öppen vikt

Anthropic har förtydligat sin ståndpunkt om open-weight AI-modeller, och vd:n Dario Amodei säger att företaget aldrig har stött ett förbud. Han varnar dock fortsatt för att kraftfulla öppna modeller kan skapa stora säkerhets- och geopolitiska risker.

Anthropic uttrycker oro över Kina

Amodei varnade för att auktoritära regeringar, inklusive Kina, skulle kunna använda avancerade AI-modeller för att stärka militära kapaciteter, utveckla kraftfullare system och utöka övervakning.

Han uttryckte också oro för att Kina så småningom skulle kunna bygga AI-modeller som överträffar dem som utvecklats i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att utvinna kapaciteter från Claude. Alibaba förbereder enligt uppgift också att begränsa användningen av Claude Code inom företaget.

Öppna modeller kan möjliggöra missbruk

Amodei sade att illvilliga aktörer kan använda kraftfulla AI-modeller för att genomföra cyberattacker och annan skadlig verksamhet.

Open-weight-modeller kan medföra ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur de används. När en modell väl har släppts kan ett företag inte heller dra tillbaka den, uppdatera dess skyddsmekanismer eller förhindra att modifierade versioner sprids.

Amodei avvisade påståenden om att öppna modeller automatiskt gör AI säkrare eller konsekvent ger försvarare ett större övertag än angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera åtgärder för att hantera riskerna med avancerad AI, inklusive att begränsa exporten av avancerade chip och chiputrustning till Kina samt att stärka tillsynen mot chipsmuggling.

Han efterlyste också förbud mot industriell destillation av AI-modeller och obligatorisk säkerhetstestning för både kraftfulla öppna och slutna modeller.

Dessa åtgärder skulle rikta sig mot tillgång till beräkningsresurser och kräva att företag utvärderar avancerade modeller innan de distribueras eller släpps.

Teknikföretag motsätter sig tidiga begränsningar

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa för tidiga begränsningar av open-weight AI.

Företagen hävdade att öppna modeller stöder ekonomisk tillväxt, uppmuntrar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic skrev inte under branschbrevet.

Amodei erkände att open-weight-modeller kan stödja forskning och ekonomisk tillväxt. Han påpekade dock att beslutsfattare inte bör bortse från deras potentiella användning i cyberattacker, militära system, övervakning eller utveckling av mer kapabel AI.

I andra Anthropic-nyheter lanserade företaget nyligen Claude Opus 5.