{"id":6480,"date":"2026-09-09T13:34:40","date_gmt":"2026-09-09T13:34:40","guid":{"rendered":"https:\/\/windowsreport.com\/se\/ai-har-en-chans-pa-over-10-procent-att-doda-alla-manniskor-inom-det-kommande-decenniet-skrammande-varning-kommer-fran-insiders-pa-anthropic\/"},"modified":"2026-09-09T13:34:40","modified_gmt":"2026-09-09T13:34:40","slug":"ai-har-en-chans-pa-over-10-procent-att-doda-alla-manniskor-inom-det-kommande-decenniet-skrammande-varning-kommer-fran-insiders-pa-anthropic","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/se\/ai-har-en-chans-pa-over-10-procent-att-doda-alla-manniskor-inom-det-kommande-decenniet-skrammande-varning-kommer-fran-insiders-pa-anthropic\/","title":{"rendered":"AI har en chans p\u00e5 \u00f6ver 10 procent att d\u00f6da alla m\u00e4nniskor inom det kommande decenniet, skr\u00e4mmande varning kommer fr\u00e5n insiders p\u00e5 Anthropic"},"content":{"rendered":"\n

Anthropics tidigare forskare Jacob Coxon har gjort en kuslig f\u00f6ruts\u00e4gelse om vart AI-kappl\u00f6pningen till slut kan leda. I en tr\u00e5dpost p\u00e5 X<\/a> talade han om att han tror att det finns en allvarlig m\u00f6jlighet att allt kraftfullare AI-system skulle kunna utg\u00f6ra ett existentiellt hot mot m\u00e4nskligheten. Till st\u00f6d f\u00f6r hans bed\u00f6mning lade Evan Hubinger, Anthropics chef f\u00f6r anpassningsvetenskap, till en siffra vid sidan av den, vilket g\u00f6r riskniv\u00e5n sv\u00e5r att ignorera.<\/p>\n\n\n\n

Anthropics tidigare forskare Jacob Coxon v\u00e4cker farh\u00e5gor om AI:s framtid<\/h2>\n\n\n\n

Coxon har sagt upp sig fr\u00e5n Anthropic efter att ha uttryckt oro \u00f6ver f\u00f6retagets inriktning<\/a> och den bredare kappl\u00f6pningen mot allt kraftfullare AI-system. Hans farh\u00e5gor kommer vid en tidpunkt d\u00e5 stora AI-f\u00f6retag aggressivt satsar p\u00e5 system som kan hantera allt mer komplexa uppgifter med mindre m\u00e4nsklig inblandning.<\/p>\n\n\n\n

Den st\u00f6rsta oron \u00e4r vad som h\u00e4nder om framtida AI-system blir kapabla att f\u00f6rb\u00e4ttra sig sj\u00e4lva eller agera med betydligt st\u00f6rre autonomi. Att kontrollera s\u00e5dana system kan bli mycket sv\u00e5rare om deras f\u00f6rm\u00e5gor r\u00f6r sig bortom m\u00e4nsklig f\u00f6rst\u00e5else.<\/p>\n\n\n\n

Coxons varning belyser ocks\u00e5 en v\u00e4xande splittring inom AI-branschen. F\u00f6retag t\u00e4vlar om att bygga mer kapabla modeller, medan forskare forts\u00e4tter att arbeta med s\u00e4tt att h\u00e5lla dessa system s\u00e4kra.<\/p>\n\n\n\n

Siffran p\u00e5 10 procent g\u00f6r varningen \u00e4nnu allvarligare<\/h3>\n\n\n\n

Evan Hubinger, Anthropics chef f\u00f6r anpassningsvetenskap, st\u00f6dde Coxons bed\u00f6mning och uppskattade att AI har mer \u00e4n 10 procents chans att d\u00f6da alla m\u00e4nniskor<\/a> inom det kommande decenniet. Den uppskattningen \u00e4r Hubingers personliga bed\u00f6mning snarare \u00e4n en officiell f\u00f6ruts\u00e4gelse fr\u00e5n Anthropic. I ett uppf\u00f6ljande inl\u00e4gg p\u00e5 X, med h\u00e4nvisning till Anthropics officiella riskbed\u00f6mningsrapport, tillade Hubinger att \u201drisken fr\u00e5n nuvarande modeller \u00e4r l\u00e5g. Det jag oroar mig f\u00f6r \u00e4r superintelligens som uppst\u00e5r genom rekursiv sj\u00e4lvf\u00f6rb\u00e4ttring, vilket, som vi har sagt, sker snabbare \u00e4n vi trodde.\u201d Du kan se inl\u00e4gget nedan:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>