Die KI-Firma Anthropic hat einen Bericht veröffentlicht, wonach sie zwischen Dezember 2025 und August 2026 mehrere Versuche blockiert habe, ihr Sprachmodell Claude für potenziell biowaffenrelevante Forschung zu nutzen. Insgesamt fünf Fälle betreffen laut Unternehmen etwa einen im Mai 2026 gesperrten Förderantrag für Gain-of-Function-Forschung an einem Chikungunya-Virus mit Bezug zu einer militärnahen Einrichtung sowie Pläne zu einer auf Säugetiere übertragbaren Vogelgrippe-Variante.
Darüber hinaus beschreibt der Bericht mutmaßliche Versuche aus dem Jemen, China und Russland, Claude für die Entwicklung von Raketen, Anti-Torpedo-Waffen und einem Kamikaze-Drohnenschwarm zu nutzen. Zudem wirft Anthropic den chinesischen Anbietern DeepSeek und Moonshot vor, Millionen Nutzeranfragen heimlich an Claude weitergeleitet zu haben.
Welche Forschungseinrichtungen und Länder konkret hinter den Bio-Fällen stehen, nennt Anthropic nicht, und die genannten Zahlen sowie die Vorwürfe gegen China, Russland und die Konkurrenzfirmen stammen bislang ausschließlich aus der eigenen Darstellung des Unternehmens. Eine unabhängige Bestätigung oder Stellungnahme der Betroffenen liegt nicht vor.
Was passiert ist
Die KI-Firma Anthropic hat einen umfangreichen Bericht mit dem Titel „Detecting and countering misuse of AI“ veröffentlicht. Er deckt nach Unternehmensangaben den Zeitraum von Dezember 2025 bis August 2026 ab und beschreibt erkannte sowie unterbundene Missbrauchsversuche der eigenen KI-Modelle Claude in sieben Bereichen: Cyberoperationen, Einflussnahme, Überwachung, Betrug und Schwindel, biologischer Missbrauch, Entwicklung konventioneller Waffen sowie sogenannte Destillation. Es ist laut heise der erste derart umfangreiche Bericht dieser Art aus dem laufenden Jahr, frühere Ausgaben stammten alle aus 2025. Im Zentrum der Berichterstattung steht der Abschnitt zu biologischem Missbrauch: Anthropic gibt an, fünf Fälle blockiert zu haben, in denen Personen versuchten, Claude für Forschung mit möglichem Bezug zu biologischen Waffen einzuspannen. Betroffen waren Modelle der Familien Claude Haiku, Sonnet und Opus.
Was die Quellen zeigen
Einer der von Anthropic beschriebenen Fälle betraf den im Mai 2026 blockierten Versuch, mit Claude einen Förderantrag für sogenannte Gain-of-Function-Forschung an einem Chikungunya-Virus zu verfassen – jener Forschungsrichtung, bei der die Übertragbarkeit eines Erregers gezielt erhöht wird, um etwa nach Gegenmitteln zu suchen. Der Antrag ordnete die geplante Arbeit einer mit dem Militär verbundenen Einrichtung zu, obwohl die Antragsteller sich selbst als Zivilpersonen darstellten. In einem weiteren Fall ging es um eine Vogelgrippe-Variante, deren Übertragbarkeit auf Säugetiere und Gefährlichkeit für den Menschen erforscht werden sollte; ein dritter beschriebener Fall betraf laut heise stundenlangen, über VPN und eine anonyme E-Mail-Adresse geführten Austausch zu einem hochansteckenden Grippevirus. Anthropic betont in allen diesen Fällen, dass die Grenze zwischen ziviler Schutzforschung und militärisch nutzbarem Wissen schwer zu ziehen sei, und begründet die Sperren mit Vorsicht statt eindeutigem Missbrauchsnachweis. Über den Bio-Bereich hinaus beschreibt der Bericht laut heise auch Versuche aus dem Norden Jemens, mithilfe von Claude Raketen weiterzuentwickeln, aus China zur Verbesserung von Anti-Torpedo-Waffen sowie mutmaßlich freiberuflicher russischer Akteure zum Bau eines per Video gesteuerten Kamikaze-Drohnenschwarms. Zudem wirft Anthropic den chinesischen Anbietern Moonshot (Modell Kimi) und DeepSeek vor, Nutzeranfragen heimlich an Claude weitergeleitet zu haben – mit mehr als 23 Millionen beobachteten Interaktionen von Moonshot-Nutzern zwischen Mai und Juli sowie rund 12 Millionen Interaktionen von DeepSeek-Nutzern binnen 14 Tagen.
Was unklar bleibt
Anthropic nennt weder die betroffenen Forschungseinrichtungen noch die Länder, aus denen die blockierten Bio-Anfragen kamen – es ist lediglich von „blockierten Regionen“ mit Verbindungen zu dortigen staatlichen Stellen die Rede. Die genannten Zahlen zu umgeleiteten Anfragen bei DeepSeek und Moonshot stammen ausschließlich aus Anthropics eigener Auswertung; eine unabhängige Prüfung oder eine Stellungnahme der beiden Unternehmen liegt nicht vor. Gleiches gilt für die Vorwürfe gegen mutmaßliche Akteure aus Jemen, China und Russland im Bereich konventioneller Waffen: Namen, Auftraggeber oder eine Reaktion der genannten Staaten fehlen. Offen bleibt zudem, wie genau Anthropic zwischen legitimer medizinischer Schutzforschung und tatsächlich gefährlicher Absicht unterscheidet, wenn – wie im Chikungunya- und im Vogelgrippe-Fall – die Antragsteller selbst zivile Zwecke angeben.
Einordnung
Der Bericht ist eine Selbstauskunft: Anthropic beschreibt ausschließlich Vorgänge, die das eigene Unternehmen erkannt und unterbunden haben will, ohne dass externe Stellen die Fälle bislang geprüft hätten. Das gilt besonders für die Vorwürfe gegen die chinesischen Wettbewerber DeepSeek und Moonshot, die zugleich im Wettbewerb um kostengünstigere KI-Modelle zu Anthropic stehen – ein Umstand, der die Einordnung der Zahlen nicht per se falsch macht, aber als mögliches Eigeninteresse mitzudenken ist. Der Bericht reiht sich in eine Serie jüngerer öffentlicher Warnungen von KI-Unternehmen und anderen Akteuren vor Risiken der Technologie ein, wie „Neue Nachrichten“ etwa im Zusammenhang mit einem gemeinsamen Brancheschreiben zu KI-gestützten Cyberangriffen sowie Warnungen von Bill Gates und Papst Leo XIV. berichtet hat. Eine unabhängige Einordnung der nun vorgelegten Einzelfälle und Zahlen durch Behörden, Wissenschaft oder die betroffenen Unternehmen selbst steht noch aus.
