Anthropic säger att de inte stöder ett förbud mot AI-modeller med öppen vikt

Anthropic har klargjort sin inställning till AI-modeller med öppen vikt, och vd:n Dario Amodei säger att företaget aldrig har stött ett förbud. Han varnar dock fortsatt för att kraftfulla öppna modeller kan skapa stora säkerhets- och geopolitiska risker.

Anthropic uttrycker oro för Kina

Amodei varnade för att auktoritära regeringar, däribland Kina, skulle kunna använda avancerade AI-modeller för att stärka militära förmågor, utveckla kraftfullare system och utöka övervakning.

Han uttryckte också oro för att Kina så småningom skulle kunna bygga AI-modeller som överträffar de som utvecklats i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att extrahera funktioner från Claude. Alibaba uppges också förbereda sig för att begränsa användningen av Claude Code inom företaget.

Öppna modeller kan möjliggöra missbruk

Amodei sade att illasinnade aktörer skulle kunna använda kraftfulla AI-modeller för att genomföra cyberattacker och andra skadliga aktiviteter.

Modeller med öppen vikt kan medföra ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur de används. När en modell väl har släppts kan ett företag inte heller dra tillbaka den, uppdatera dess skyddsmekanismer eller förhindra att modifierade versioner sprids.

Amodei avvisade påståenden om att öppna modeller automatiskt gör AI säkrare eller alltid ger försvarare ett större övertag jämfört med angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera åtgärder för att hantera risker med avancerad AI, däribland att begränsa exporten av avancerade chip och chipstillverkningsutrustning till Kina samt att skärpa tillsynen mot chipsmuggling.

Han förespråkade också ett förbud mot industriell destillation av AI-modeller i stor skala och obligatorisk säkerhetstestning för både kraftfulla öppna och slutna modeller.

Dessa åtgärder skulle inriktas mot tillgången till datorkraft och kräva att företag utvärderar avancerade modeller före driftsättning eller publicering.

Teknikföretag motsätter sig tidiga begränsningar

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa för tidiga begränsningar av AI med öppen vikt.

Företagen hävdade att öppna modeller stödjer ekonomisk tillväxt, uppmuntrar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic undertecknade inte branschbrevet.

Amodei medgav att modeller med öppen vikt kan stödja forskning och ekonomisk tillväxt. Han hävdade dock att beslutsfattare inte bör bortse från deras potentiella användning vid cyberattacker, i militära system, för övervakning eller för utveckling av mer kapabel AI.

I andra nyheter om Anthropic lanserade företaget nyligen Claude Opus 5.