Anthropic säger sig inte stödja ett förbud mot open-weight AI-modeller

Anthropic har förtydligat sin position gällande AI-modeller med öppna vikter, och vd:n Dario Amodei uppger att företaget aldrig har förespråkat ett förbud. Han varnar dock fortsatt för att kraftfulla öppna modeller kan medföra betydande säkerhetsrisker och geopolitiska risker.

Anthropic uttrycker oro över Kina

Amodei varnade för att auktoritära regeringar, däribland Kina, skulle kunna använda avancerade AI-modeller för att stärka militära förmågor, utveckla mer kraftfulla system och utöka övervakningen.

Han uttryckte också oro för att Kina på sikt skulle kunna bygga AI-modeller som överträffar de som utvecklas i USA.

Anthropic har nyligen anklagat Alibaba för att ha använt 25 000 falska konton för att utvinna funktioner från Claude. Alibaba uppges också förbereda en begränsning av användningen av Claude Code på sina arbetsplatser.

Öppna modeller kan möjliggöra missbruk

Amodei menade att illasinnade aktörer skulle kunna använda kraftfulla AI-modeller för att genomföra cyberattacker och andra skadliga aktiviteter.

Modeller med öppna vikter kan innebära ytterligare risker eftersom utvecklare inte enkelt kan övervaka hur de används. När en modell väl har släppts kan ett företag inte heller dra tillbaka den, uppdatera dess skyddsmekanismer eller förhindra att modifierade versioner sprids.

Amodei tillbakavisade påståenden om att öppna modeller automatiskt gör AI säkrare eller konsekvent ger försvarare ett större övertag än angripare.

Amodei föreslår fyra säkerhetsåtgärder

Anthropics vd föreslog flera åtgärder för att hantera riskerna med avancerad AI, däribland att begränsa exporten av avancerade chip och utrustning för chiptillverkning till Kina samt att skärpa bekämpningen av chipsmuggling.

Han efterlyste också ett förbud mot industriell AI-modelldestillering och krav på obligatorisk säkerhetstestning för både kraftfulla öppna och slutna modeller.

Dessa åtgärder skulle inrikta sig på tillgången till beräkningsresurser och kräva att företag utvärderar avancerade modeller före driftsättning eller publicering.

Teknikföretag motsätter sig tidiga restriktioner

NVIDIA, Meta, Microsoft och andra teknikföretag varnade nyligen amerikanska beslutsfattare för att införa för tidiga restriktioner mot AI med öppna vikter.

Företagen hävdade att öppna modeller främjar ekonomisk tillväxt, uppmuntrar innovation och hjälper forskare att utveckla starkare AI-säkerhetsverktyg. Anthropic undertecknade inte branschbrevet.

Amodei medgav att modeller med öppna vikter kan stödja forskning och ekonomisk tillväxt. Han hävdade dock att beslutsfattare inte bör bortse från deras potentiella användning i cyberattacker, militära system, övervakning eller utvecklingen av mer kapabel AI.

I övriga Anthropic-nyheter lanserade företaget nyligen Claude Opus 5.