Anthropic säger att det inte stöder ett förbud mot open-weight AI-modeller

Anthropic har förtydligat sin ståndpunkt om öppen vikt-modeller för AI, där vd Dario Amodei säger att företaget aldrig har stött ett förbud. Han varnar dock fortsatt för att kraftfulla öppna modeller kan skapa stora säkerhets- och geopolitiska risker.

Anthropic uttrycker oro om Kina

Amodei varnade för att auktoritära regeringar, inklusive Kina, skulle kunna använda avancerade AI-modeller för att stärka militära förmågor, utveckla kraftfullare system och utöka övervakning.

Han uttryckte också oro för att Kina så småningom skulle kunna bygga AI-modeller som överträffar de som utvecklas i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att utvinna förmågor ur Claude. Alibaba förbereder sig enligt uppgift också för att begränsa användningen av Claude Code på arbetsplatsen.

Öppna modeller kan möjliggöra missbruk

Amodei sade att illasinnade aktörer skulle kunna använda kraftfulla AI-modeller för att genomföra cyberattacker och andra skadliga aktiviteter.

Öppen vikt-modeller kan innebära ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur människor använder dem. När en modell väl har släppts kan ett företag inte heller dra tillbaka den, uppdatera dess skyddsmekanismer eller förhindra att modifierade versioner sprids.

Amodei tillbakavisade påståenden om att öppna modeller automatiskt gör AI säkrare eller konsekvent ger försvarare ett större övertag än angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera policyer för att hantera risker med avancerad AI, inklusive att begränsa exporten av avancerade chip och chiptillverkningsutrustning till Kina samt att öka tillsynen mot chipsmuggling.

Han efterlyste också ett förbud mot industriell destillation av AI-modeller och krav på obligatorisk säkerhetstestning för både kraftfulla öppna och stängda modeller.

Dessa åtgärder skulle rikta in sig på tillgång till beräkningsresurser och kräva att företag utvärderar avancerade modeller före driftsättning eller frisläppning.

Teknikföretag motsätter sig tidiga restriktioner

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa förhastade restriktioner mot öppen vikt-AI.

Företagen hävdade att öppna modeller stöder ekonomisk tillväxt, uppmuntrar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic undertecknade inte branschbrevet.

Amodei medgav att öppen vikt-modeller kan stödja forskning och ekonomisk tillväxt. Han menade dock att beslutsfattare inte bör ignorera deras potentiella användning i cyberattacker, militära system, övervakning eller utveckling av mer kapabel AI.

I andra Anthropic-nyheter lanserade företaget nyligen Claude Opus 5.