Der britische KI-Forscher Jacob Coxon hat seine Stelle bei Anthropic gekündigt und öffentlich vor einer existenziellen Bedrohung der Menschheit durch selbstverbessernde KI gewarnt. Der 27-Jährige, der zuvor bei OpenAI gearbeitet hatte, veröffentlichte seine Warnung auf X und trat anschließend bei CNN und Fox News auf.
Rückhalt erhielt er von Evan Hubinger, Leiter des Alignment-Teams bei Anthropic, der das Risiko einer KI-bedingten Auslöschung der Menschheit auf über 10 Prozent binnen zehn Jahren bezifferte. Auch der KI-Sicherheitsforscher Paul Christiano und laut Berichten der Hohe Kommissar der Vereinten Nationen für Menschenrechte äußerten ähnliche Sorgen. Mehrere US-Politiker und der Podcaster Joe Rogan griffen das Thema auf.
Der Branchendienst the-decoder verweist zugleich auf kulturelle und finanzielle Interessen hinter solchen Warnungen und stuft das Auslöschungsszenario als extremen, umstrittenen Standpunkt ein. Anthropic hat sich bislang nicht offiziell geäußert; ob Coxons Einschätzung von weiteren Beschäftigten geteilt wird, bleibt offen.
Was passiert ist
Der britische KI-Forscher Jacob Coxon hat seine Stelle bei Anthropic gekündigt und die Kündigung öffentlich mit einer mehrteiligen Nachricht auf der Plattform X begleitet. Der 27-Jährige hatte zuvor bei OpenAI gearbeitet und wechselte laut Berichten Anfang 2026 zu Anthropic, wo er im Pretraining-Bereich tätig war. In seinen Beiträgen schreibt er, die Menschen, die KI entwickeln, seien selbst davon überzeugt, dass ihre Systeme die Menschheit noch in diesem Jahrzehnt auslöschen könnten. Anthropic gehe zwar verantwortungsbewusster vor als andere Unternehmen der Branche, befinde sich aber in einem Wettlauf um technologische Führerschaft, in dem Sicherheitsbedenken laut Coxon zurückgestellt würden. Ergänzend zitiert das Wall Street Journal ihn mit der Einschätzung, die Lage könne bereits Ende 2027 „außer Kontrolle“ geraten.
Wie sich die Warnung verbreitete
Coxons Äußerungen blieben nicht auf soziale Medien beschränkt: Er trat anschließend sowohl bei CNN im Gespräch mit Anderson Cooper als auch bei Fox News auf, um seine Sicht einem breiten US-Publikum zu erläutern. Bei Fox News forderte er internationale Regulierung und sagte, das Problem sei „lösbar“, wenn die Branche sich mehr Zeit nehme. Mehrere US-Politiker griffen das Thema laut Berichten in sozialen Medien auf, auch beim Podcaster Joe Rogan war KI-Sicherheit in der Folge Thema. Unterstützung erhielt Coxon von Evan Hubinger, der als Leiter des Alignment-Teams bei Anthropic ähnliche Sorgen öffentlich bestätigte und das Risiko einer durch KI verursachten Auslöschung der Menschheit auf über 10 Prozent innerhalb der kommenden zehn Jahre bezifferte. Laut the-decoder äußerte sich zudem der KI-Sicherheitsforscher Paul Christiano, der neu im Vorstand der OpenAI Foundation sitzt, in eine ähnliche Richtung: Ohne bessere Kontrollmechanismen könnte die Menschheit die Kontrolle über eine Superintelligenz dauerhaft verlieren. Auch der Hohe Kommissar der Vereinten Nationen für Menschenrechte erklärte laut heise, er teile die Sorge, dass hochentwickelte KI eine existenzielle Gefahr darstellen könnte.
Kritische Distanz
Der Branchendienst the-decoder ordnet die Debatte kritisch ein: Hinter den Warnungen spielten auch kulturelle und finanzielle Interessen der beteiligten Personen und Unternehmen eine Rolle - etwa Aufmerksamkeit, Positionierung im politischen Diskurs um KI-Regulierung oder persönliche Reputationsgewinne. Das heiße nicht, dass sämtliche Sicherheitsbedenken unbegründet seien; als Beleg dafür verweist the-decoder etwa auf einen automatisierten Hackerangriff, der Hugging Face betraf. Das Szenario einer vollständigen Auslöschung der Menschheit durch KI bleibe aber ein extremer und stark umstrittener Standpunkt - zumal unklar sei, ob auf Basis der derzeitigen Technologie überhaupt so etwas wie eine Superintelligenz entstehen könnte. Anthropic selbst hat sich laut heise bislang nicht offiziell zu Coxons Vorwürfen geäußert.
Was unklar bleibt
Offen ist, wie belastbar Coxons persönliche Einschätzung zum Zeithorizont ist und ob sie von einer breiteren Zahl aktiver Mitarbeiterinnen und Mitarbeiter bei Anthropic oder OpenAI geteilt wird - laut Wall-Street-Journal-Bericht ist er bislang eines der wenigen bekannten Beispiele für eine Kündigung aus diesem Grund. Unklar ist auch, wie die von US-Politikern und im Podcast-Umfeld aufgegriffene Debatte konkrete KI-Regulierung beeinflusst, und ob Anthropic auf die Vorwürfe noch offiziell reagieren wird. Eine unabhängige, primärquellenbasierte Bestätigung von Coxons vollständigen X-Beiträgen oder des Wall-Street-Journal-Interviews liegt für diesen Artikel nicht vor; die Darstellung stützt sich auf Sekundärberichterstattung mehrerer Medien sowie die öffentlich angekündigten Interviews bei CNN und Fox News.
