Anthropic säger att det inte stöder ett förbud mot AI-modeller med öppen vikt

Anthropic har förtydligat sin ståndpunkt om AI-modeller med öppen vikt, där vd Dario Amodei säger att företaget aldrig har stött ett förbud. Han fortsätter dock att varna för att kraftfulla öppna modeller kan skapa stora säkerhets- och geopolitiska risker.

Anthropic lyfter fram farhågor om Kina

Amodei varnade för att auktoritära regeringar, däribland Kina, skulle kunna använda avancerade AI-modeller för att stärka militära förmågor, utveckla kraftfullare system och utöka övervakningen.

Han uttryckte också oro för att Kina så småningom skulle kunna utveckla AI-modeller som överträffar de som utvecklats i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att utvinna funktioner från Claude. Alibaba förbereder sig också enligt uppgift för att begränsa användningen av Claude Code inom sin arbetsplats.

Öppna modeller kan möjliggöra missbruk

Amodei sade att illasinnade aktörer skulle kunna använda kraftfulla AI-modeller för att genomföra cyberattacker och andra skadliga aktiviteter.

Modeller med öppen vikt kan innebära ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur människor använder dem. När de väl har släppts kan ett företag inte heller återkalla modellen, uppdatera dess skyddsåtgärder eller förhindra att modifierade versioner sprids.

Amodei tillbakavisade påståendena att öppna modeller automatiskt gör AI säkrare eller konsekvent ger försvarare ett större övertag än angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera strategier för att hantera risker med avancerad AI, inklusive att begränsa exporten av avancerade chip och chipstillverkningsutrustning till Kina och att öka insatserna mot chipsmuggling.

Han efterlyste också ett förbud mot storskalig destillation av AI-modeller och obligatoriska säkerhetstester för både kraftfulla öppna och slutna modeller.

Dessa åtgärder skulle rikta in sig på tillgång till beräkningsresurser och kräva att företag utvärderar avancerade modeller innan de driftsätts eller släpps.

Teknikföretag motsätter sig tidiga restriktioner

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa för tidiga restriktioner för AI med öppen vikt.

Företagen argumenterade för att öppna modeller stöder ekonomisk tillväxt, främjar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic undertecknade inte branschbrevet.

Amodei erkände att modeller med öppen vikt kan stödja forskning och ekonomisk tillväxt. Han menade dock att beslutsfattare inte bör ignorera deras potentiella användning i cyberattacker, militära system, övervakning eller utveckling av mer kapabel AI.

I andra Anthropic-nyheter lanserade företaget nyligen Claude Opus 5.