{"id":4212,"date":"2026-09-09T13:34:04","date_gmt":"2026-09-09T13:34:04","guid":{"rendered":"https:\/\/windowsreport.com\/no\/ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-skremmende-advarsel-kommer-fra-anthropic-innsidere\/"},"modified":"2026-09-09T13:34:04","modified_gmt":"2026-09-09T13:34:04","slug":"ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-skremmende-advarsel-kommer-fra-anthropic-innsidere","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/no\/ki-har-over-10-prosent-sjanse-for-a-drepe-alle-mennesker-i-lopet-av-det-neste-tiaret-skremmende-advarsel-kommer-fra-anthropic-innsidere\/","title":{"rendered":"KI har over 10 prosent sjanse for \u00e5 drepe alle mennesker i l\u00f8pet av det neste ti\u00e5ret, skremmende advarsel kommer fra Anthropic-innsidere"},"content":{"rendered":"\n

Anthropics tidligere forsker Jacob Coxon har kommet med en skremmende sp\u00e5dom om hvor AI-kappl\u00f8pet til slutt kan f\u00f8re. I en tr\u00e5d p\u00e5 X<\/a> sa han at han mener det er en reell mulighet for at stadig kraftigere AI-systemer kan utgj\u00f8re en eksistensiell trussel mot menneskeheten. Som st\u00f8tte til vurderingen la Anthropics forskningsleder for alignment, Evan Hubinger, til et tall, noe som gj\u00f8r risikoniv\u00e5et vanskelig \u00e5 ignorere.<\/p>\n\n\n\n

Anthropics tidligere forsker Jacob Coxon uttrykker bekymring for fremtiden til AI<\/h2>\n\n\n\n

Coxon har trukket seg fra Anthropic etter \u00e5 ha uttrykt bekymring for selskapets retning<\/a> og det bredere kappl\u00f8pet mot stadig kraftigere AI-systemer. Bekymringene hans kommer p\u00e5 et tidspunkt der store AI-selskaper presser aggressivt mot systemer som kan h\u00e5ndtere stadig mer komplekse oppgaver med mindre menneskelig involvering.<\/p>\n\n\n\n

Den st\u00f8rste bekymringen er hva som skjer hvis fremtidige AI-systemer blir i stand til \u00e5 forbedre seg selv eller operere med betydelig st\u00f8rre autonomi. \u00c5 kontrollere slike systemer kan bli mye vanskeligere hvis evnene deres beveger seg utenfor menneskelig forst\u00e5else.<\/p>\n\n\n\n

Coxons advarsel understreker ogs\u00e5 en \u00f8kende splittelse i AI-bransjen. Selskaper konkurrerer om \u00e5 bygge mer kapable modeller, mens forskere fortsetter \u00e5 jobbe med m\u00e5ter \u00e5 holde disse systemene trygge p\u00e5.<\/p>\n\n\n\n

Tallet p\u00e5 10 prosent gj\u00f8r advarselen enda mer alvorlig<\/h3>\n\n\n\n

Anthropics forskningsleder for alignment, Evan Hubinger, st\u00f8ttet Coxons vurdering og anslo at AI har mer enn 10 prosent sjanse for \u00e5 drepe alle mennesker<\/a> i l\u00f8pet av det neste ti\u00e5ret. Dette anslaget er Hubingers personlige vurdering, ikke en offisiell sp\u00e5dom fra Anthropic. I et oppf\u00f8lgingsinnlegg p\u00e5 X, med henvisning til Anthropics offisielle risikovurderingsrapport, la Hubinger til at \u00abrisikoen fra dagens modeller er lav. Det jeg er bekymret for, er superintelligens som oppst\u00e5r gjennom rekursiv selvforbedring, som vi har sagt skjer raskere enn vi trodde.\u00bb Du kan se innlegget nedenfor:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>