{"id":5924,"date":"2026-09-09T12:46:24","date_gmt":"2026-09-09T12:46:24","guid":{"rendered":"https:\/\/windowsreport.com\/de\/ki-hat-eine-chance-von-uber-10-prozent-alle-menschen-innerhalb-des-nachsten-jahrzehnts-zu-toten-erschreckende-warnung-von-anthropic-insidern\/"},"modified":"2026-09-09T13:13:09","modified_gmt":"2026-09-09T13:13:09","slug":"ki-hat-eine-chance-von-uber-10-prozent-alle-menschen-innerhalb-des-nachsten-jahrzehnts-zu-toten-erschreckende-warnung-von-anthropic-insidern","status":"publish","type":"post","link":"https:\/\/windowsreport.com\/de\/ki-hat-eine-chance-von-uber-10-prozent-alle-menschen-innerhalb-des-nachsten-jahrzehnts-zu-toten-erschreckende-warnung-von-anthropic-insidern\/","title":{"rendered":"KI hat eine Wahrscheinlichkeit von \u00fcber 10 Prozent, alle Menschen innerhalb des n\u00e4chsten Jahrzehnts zu t\u00f6ten \u2013 erschreckende Warnung von Anthropic-Insidern"},"content":{"rendered":"\n

Der ehemalige Anthropic-Forscher Jacob Coxon hat eine beunruhigende Prognose dar\u00fcber abgegeben, wohin der KI-Wettlauf letztlich f\u00fchren k\u00f6nnte. In einem Thread-Beitrag auf X<\/a> sprach er \u00fcber seine \u00dcberzeugung, dass es eine ernsthafte M\u00f6glichkeit gibt, dass zunehmend leistungsf\u00e4hige KI-Systeme eine existenzielle Bedrohung f\u00fcr die Menschheit darstellen k\u00f6nnten. Zur Untermauerung seiner Einsch\u00e4tzung erg\u00e4nzte Evan Hubinger, Leiter Alignment Science bei Anthropic, eine Zahl, die das Risikoniveau kaum ignorierbar macht.<\/p>\n\n\n\n

Anthropics ehemaliger Forscher Jacob Coxon \u00e4u\u00dfert Bedenken zur Zukunft der KI<\/h2>\n\n\n\n

Coxon ist von Anthropic zur\u00fcckgetreten, nachdem er Bedenken hinsichtlich der Ausrichtung des Unternehmens<\/a> und des breiteren Wettlaufs um zunehmend leistungsf\u00e4hige KI-Systeme ge\u00e4u\u00dfert hatte. Seine Bedenken kommen zu einer Zeit, in der gro\u00dfe KI-Unternehmen aggressiv auf Systeme hinarbeiten, die zunehmend komplexe Aufgaben mit weniger menschlicher Beteiligung bew\u00e4ltigen k\u00f6nnen.<\/p>\n\n\n\n

Die gr\u00f6\u00dfte Sorge ist, was passiert, wenn k\u00fcnftige KI-Systeme in der Lage sind, sich selbst zu verbessern oder mit deutlich gr\u00f6\u00dferer Autonomie zu handeln. Die Kontrolle solcher Systeme k\u00f6nnte deutlich schwieriger werden, wenn ihre F\u00e4higkeiten \u00fcber das menschliche Verst\u00e4ndnis hinausgehen.<\/p>\n\n\n\n

Coxons Warnung verdeutlicht auch eine wachsende Kluft innerhalb der KI-Branche. Unternehmen konkurrieren darum, leistungsf\u00e4higere Modelle zu entwickeln, w\u00e4hrend Forscher weiterhin an M\u00f6glichkeiten arbeiten, diese Systeme sicher zu halten.<\/p>\n\n\n\n

Die 10-Prozent-Angabe macht die Warnung noch ernster<\/h3>\n\n\n\n

Evan Hubinger, Leiter Alignment Science bei Anthropic, unterst\u00fctzte Coxons Einsch\u00e4tzung und sch\u00e4tzte, dass die Wahrscheinlichkeit, dass KI innerhalb des n\u00e4chsten Jahrzehnts alle Menschen t\u00f6tet, bei \u00fcber 10 Prozent liegt<\/a>. Bei dieser Sch\u00e4tzung handelt es sich um Hubingers pers\u00f6nliche Einsch\u00e4tzung und nicht um eine offizielle Prognose von Anthropic. In einem Folgebeitrag auf X erg\u00e4nzte Hubinger unter Verweis auf den offiziellen Risikobewertungsbericht von Anthropic: \u201eDas Risiko durch heutige Modelle ist gering. Was mir Sorgen bereitet, ist eine Superintelligenz, die aus rekursiver Selbstverbesserung entsteht, was, wie wir bereits gesagt haben, schneller passiert, als wir dachten.\u201c Den Beitrag k\u00f6nnen Sie sich unten ansehen:<\/p>\n\n\n\n

\n

To be clear, as we say in our latest Risk Report (https:\/\/t.co\/9PDj8Uvoty<\/a>), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought\u2026<\/p>— Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/blockquote>