{"id":2820,"date":"2026-09-09T13:19:39","date_gmt":"2026-09-09T13:19:39","guid":{"rendered":"https:\/\/windowsreport.com\/nl\/ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-komt-van-insiders-bij-anthropic\/"},"modified":"2026-09-09T13:19:39","modified_gmt":"2026-09-09T13:19:39","slug":"ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-komt-van-insiders-bij-anthropic","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/nl\/ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-komt-van-insiders-bij-anthropic\/","title":{"rendered":"AI heeft meer dan 10% kans om binnen het komende decennium alle mensen te doden, huiveringwekkende waarschuwing komt van insiders bij Anthropic"},"content":{"rendered":"\n

Voormalig Anthropic-onderzoeker Jacob Coxon heeft een huiveringwekkende voorspelling gedaan over waar de AI-race uiteindelijk toe zou kunnen leiden. In een thread op X<\/a> zei hij te geloven dat er een serieuze mogelijkheid is dat steeds krachtigere AI-systemen een existenti\u00eble bedreiging voor de mensheid kunnen vormen. Ter ondersteuning van zijn inschatting voegde Evan Hubinger, hoofd Alignment Science bij Anthropic, er een getal aan toe, waardoor het risiconiveau moeilijk te negeren is.<\/p>\n\n\n\n

Voormalig Anthropic-onderzoeker Jacob Coxon maakt zich zorgen over de toekomst van AI<\/h2>\n\n\n\n

Coxon is bij Anthropic opgestapt nadat hij zijn zorgen had geuit over de koers van het bedrijf en de bredere race naar steeds krachtigere AI-systemen. Zijn zorgen komen op een moment waarop grote AI-bedrijven agressief inzetten op systemen die steeds complexere taken met minder menselijke betrokkenheid kunnen uitvoeren.<\/p>\n\n\n\n

De grootste zorg is wat er gebeurt als toekomstige AI-systemen zichzelf kunnen verbeteren of met aanzienlijk meer autonomie kunnen opereren. Het beheersen van dergelijke systemen kan veel moeilijker worden als hun capaciteiten het menselijk begrip te boven gaan.<\/p>\n\n\n\n

De waarschuwing van Coxon wijst ook op een groeiende verdeeldheid binnen de AI-industrie. Bedrijven concurreren om krachtigere modellen te bouwen, terwijl onderzoekers blijven werken aan manieren om die systemen veilig te houden.<\/p>\n\n\n\n

Het percentage van 10% maakt de waarschuwing nog serieuzer<\/h3>\n\n\n\n

Evan Hubinger, hoofd Alignment Science bij Anthropic, schaarde zich achter de inschatting van Coxon en schatte dat AI meer dan 10% kans heeft om alle mensen te doden<\/a> binnen het komende decennium. Die schatting is de persoonlijke inschatting van Hubinger en geen offici\u00eble voorspelling van Anthropic. In een vervolgpost op X, onder verwijzing naar het offici\u00eble risicobeoordelingsrapport van Anthropic, voegde Hubinger eraan toe: \u201cHet risico van de huidige modellen is laag. Waar ik me zorgen over maak, is superintelligentie die voortkomt uit recursieve zelfverbetering, waarvan we al hebben gezegd dat het sneller gebeurt dan we dachten.\u201d Je kunt de post hieronder bekijken:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>