{"id":4214,"date":"2026-09-09T13:46:41","date_gmt":"2026-09-09T13:46:41","guid":{"rendered":"https:\/\/windowsreport.com\/no\/ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-iskald-advarsel-fra-anthropic-innsidere\/"},"modified":"2026-09-09T13:46:41","modified_gmt":"2026-09-09T13:46:41","slug":"ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-iskald-advarsel-fra-anthropic-innsidere","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/no\/ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-iskald-advarsel-fra-anthropic-innsidere\/","title":{"rendered":"KI har over 10 prosent sjanse for \u00e5 drepe alle mennesker i l\u00f8pet av det neste ti\u00e5ret, iskald advarsel fra Anthropic-innsidere"},"content":{"rendered":"\n

Anthropics tidligere forsker Jacob Coxon har kommet med en uhyggelig sp\u00e5dom om hvor AI-kappl\u00f8pet til slutt kan ende. I et tr\u00e5dinnlegg p\u00e5 X<\/a> skrev han at han mener det er en reell mulighet for at stadig kraftigere AI-systemer kan utgj\u00f8re en eksistensiell trussel mot menneskeheten. Til st\u00f8tte for vurderingen la Anthropics leder for alignment-forskning Evan Hubinger til et tall, noe som gj\u00f8r risikoniv\u00e5et vanskelig \u00e5 ignorere.<\/p>\n\n\n\n

Anthropics tidligere forsker Jacob Coxon vekker bekymring om fremtiden til AI<\/h2>\n\n\n\n

Coxon har trukket seg fra Anthropic etter \u00e5 ha uttrykt bekymring for selskapets retning<\/a> og det bredere kappl\u00f8pet mot stadig kraftigere AI-systemer. Bekymringene hans kommer p\u00e5 et tidspunkt der store AI-selskaper presser aggressivt mot systemer som kan h\u00e5ndtere stadig mer komplekse oppgaver med mindre menneskelig involvering.<\/p>\n\n\n\n

Den st\u00f8rste bekymringen er hva som skjer hvis fremtidige AI-systemer blir i stand til \u00e5 forbedre seg selv eller operere med betydelig st\u00f8rre autonomi. \u00c5 kontrollere slike systemer kan bli mye vanskeligere hvis evnene deres beveger seg utover menneskelig forst\u00e5else.<\/p>\n\n\n\n

Coxons advarsel peker ogs\u00e5 p\u00e5 en voksende splittelse i AI-bransjen. Selskaper konkurrerer om \u00e5 bygge mer kapable modeller, mens forskere fortsetter \u00e5 jobbe med m\u00e5ter \u00e5 holde disse systemene trygge p\u00e5.<\/p>\n\n\n\n

Anslaget p\u00e5 10 prosent gj\u00f8r advarselen enda mer alvorlig<\/h3>\n\n\n\n

Anthropics leder for alignment-forskning Evan Hubinger st\u00f8ttet Coxons vurdering og anslo at AI har mer enn 10 prosent sjanse for \u00e5 drepe alle mennesker<\/a> i l\u00f8pet av det neste ti\u00e5ret. Anslaget er Hubingers personlige vurdering, ikke en offisiell forutsigelse fra Anthropic. I et oppf\u00f8lgingsinnlegg p\u00e5 X, der han viser til Anthropics offisielle risikovurderingsrapport, la Hubinger til at \u00abrisikoen fra dagens modeller er lav. Det jeg er bekymret for, er superintelligens som oppst\u00e5r gjennom rekursiv selvforbedring, noe vi allerede har sagt skjer raskere enn vi trodde.\u00bb Du kan se innlegget nedenfor:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>