{"id":2822,"date":"2026-09-09T13:36:21","date_gmt":"2026-09-09T13:36:21","guid":{"rendered":"https:\/\/windowsreport.com\/nl\/ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-van-insiders-bij-anthropic\/"},"modified":"2026-09-09T13:56:29","modified_gmt":"2026-09-09T13:56:29","slug":"ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-van-insiders-bij-anthropic","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/nl\/ai-heeft-meer-dan-10-kans-om-binnen-het-komende-decennium-alle-mensen-te-doden-huiveringwekkende-waarschuwing-van-insiders-bij-anthropic\/","title":{"rendered":"AI heeft meer dan 10% kans om binnen het komende decennium alle mensen te doden, huiveringwekkende waarschuwing van insiders bij Anthropic"},"content":{"rendered":"\n

Jacob Coxon, ex-onderzoeker bij Anthropic, heeft een huiveringwekkende voorspelling gedaan over waar de AI-race uiteindelijk toe kan leiden. In een thread op X<\/a> zei hij dat hij gelooft dat er een serieuze kans is dat steeds krachtigere AI-systemen een existenti\u00eble bedreiging voor de mensheid kunnen vormen. Evan Hubinger, Alignment Science Lead bij Anthropic, ondersteunde zijn inschatting en voegde daar een cijfer aan toe, waardoor het risiconiveau moeilijk te negeren is.<\/p>\n\n\n\n

Ex-onderzoeker bij Anthropic Jacob Coxon uit zijn zorgen over de toekomst van AI<\/h2>\n\n\n\n

Coxon heeft ontslag genomen bij Anthropic nadat hij zijn zorgen had geuit over de koers van het bedrijf<\/a> en de bredere race naar steeds krachtigere AI-systemen. Zijn zorgen komen op een moment waarop grote AI-bedrijven agressief inzetten op systemen die steeds complexere taken kunnen uitvoeren met minder menselijke betrokkenheid.<\/p>\n\n\n\n

De grootste zorg is wat er gebeurt als toekomstige AI-systemen in staat worden zichzelf te verbeteren of met aanzienlijk meer autonomie te opereren. Het controleren van dergelijke systemen kan veel moeilijker worden als hun capaciteiten het menselijk begrip te boven gaan.<\/p>\n\n\n\n

De waarschuwing van Coxon wijst ook op een groeiende tweedeling binnen de AI-sector. Bedrijven concurreren om krachtigere modellen te bouwen, terwijl onderzoekers blijven werken aan manieren om die systemen veilig te houden.<\/p>\n\n\n\n

Het cijfer van 10% maakt de waarschuwing nog serieuzer<\/h3>\n\n\n\n

Evan Hubinger, Alignment Science Lead bij Anthropic, onderschreef de beoordeling van Coxon en schatte dat AI meer dan 10% kans heeft om binnen het komende decennium alle mensen te doden<\/a>. Die schatting is een persoonlijke inschatting van Hubinger en geen offici\u00eble voorspelling van Anthropic. In een vervolgpost op X, onder verwijzing naar het offici\u00eble risicobeoordelingsrapport van Anthropic, voegde Hubinger eraan toe dat \u201chet risico van de huidige modellen laag is. Waar ik me zorgen over maak, is superintelligentie die voortkomt uit recursieve zelfverbetering, waarvan we al hebben gezegd dat het sneller gebeurt dan we dachten.\u201d Je kunt de post hieronder bekijken:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>