Das US-KI-Unternehmen Anthropic hat nach eigenen Angaben innerhalb weniger Monate eine Reihe gravierender Missbrauchs‑Versuche seines Modells Claude abgewehrt. In einem Bericht teilte das Unternehmen mit, es habe unter anderem Aktivitäten gestoppt, die mutmaßlich von russischen Angreifern und mehreren chinesischen Technologieeinrichtungen ausgingen. Ziel der Angreifer sei gewesen, Claude für die Entwicklung von Schadsoftware, konventioneller Waffen-Software und zur Verbesserung eigener KI-Modelle zu nutzen.
Umfang der Vorfälle
Anthropic registrierte demnach zwischen Mai und Juli 2026 mehr als 151 Millionen Interaktionen, die von über 3.500 als betrügerisch eingestuften Konten ausgingen. Als Akteure identifizierte das Unternehmen unter anderem sieben chinesische Labore; namentlich genannt wurden die Technologiekonzerne Alibaba, Moonshot, DeepSeek und Xiaomi. Mitarbeiter, denen Alibaba zugeordnet wird, sollen den nach Unternehmensangaben größten Angriff geführt haben, um die Fähigkeiten von Claude für das Training eigener Modelle wie Qwen auszunutzen.
| Zeitraum | Interaktionen | Verdächtige Konten | betroffene Akteure |
|---|---|---|---|
| Mai–Juli 2026 | 151 Mio. | über 3.500 | u. a. Alibaba, Moonshot, DeepSeek, Xiaomi |
Methoden und Gefahren
Anthropic beschreibt mehrere Modi des Missbrauchs: Einige Akteure sollen Antworten und Resultate von Claude verwendet haben, um diese auf kleinere, kostengünstigere Modelle zu übertragen und damit deren Leistungsniveau zu heben. Andere Firmen hätten offenbar Live‑Gespräche von Kunden mit sensiblen Inhalten in Claude eingespeist und die Antworten als Trainingsdaten genutzt. Weiterhin identifizierte Anthropic Fälle, in denen Claude zur Unterstützung bei der Entwicklung von Software für konventionelle Waffen — etwa Schusswaffen, Raketen und bewaffnete Drohnen — herangezogen worden sei.
"Midnight Blizzard"
Besonders brisant ist dem Bericht zufolge ein Fall, der mit der russischen Gruppe „Midnight Blizzard“ in Verbindung gebracht wird. Die US‑Regierung hat diese Gruppe bereits zuvor dem russischen Auslandsgeheimdienst SVR zugeordnet. Nach Anthropic-Angaben nutzte die Gruppe KI, um Angriffe auf ukrainische Regierungs‑, Militär‑ und diplomatische Einrichtungen zu unterstützen. Die Hackerinnen und Hacker hätten demnach u. a. Systeme entwickelt, die Schadsoftware automatisch umschreiben, sobald sie von Sicherheitssystemen erkannt wird, um unerkannt zu bleiben.
Konsequenzen für Politik und Wirtschaft
Die Vorfälle unterstreichen die wachsende Rolle von KI bei Cyberangriffen und industrieller Spionage. Das systematische Abgreifen von Ausgaben großer Modelle, um kleinere Modelle zu trainieren, trifft vor allem Unternehmen, die mit hohen Entwicklungskosten kämpfen: Durch das Replizieren von Funktionalität großer, teurer Modelle lassen sich Entwicklungsaufwände reduzieren — auf Kosten der Urheber und der Sicherheit.
- Erhöhte Anforderungen an Provider‑Kontrollen und Identitätsprüfungen bei KI‑Zugängen
- Stärkerer Fokus auf detektive Verfahren zur Identifikation von automatisierten Missbrauchs‑Mustern
- Mögliche Auswirkungen auf Exportkontrollen und internationale Kooperationen im KI‑Sektor
Für Unternehmen und Behörden bedeutet die Meldung eine doppelte Herausforderung: Zum einen müssen technische Schutzmechanismen und Monitoring ausgebaut werden, zum anderen steigt der Bedarf an rechtlichen Rahmenbedingungen, die den grenzüberschreitenden Missbrauch von KI‑Ressourcen adressieren. Besonders heikel ist die Tatsache, dass sogenannte „legitime“ Forschungsanfragen sich von böswilligen Versuchen schwer unterscheiden lassen — ein Dilemma, das auch Anthropic betont.
Die Vorfälle könnten zudem die Debatte um eine strengere Regulierung großer KI‑Modelle anheizen. Nationale Sicherheitsbehörden und Unternehmen werden die Berichte genau prüfen müssen, um ihre eigenen Abwehr‑ und Prüfmechanismen zu verstärken. Unabhängig von der rechtlichen Bewertung zeigt sich: Künstliche Intelligenz ist mittlerweile ein aktives Element in globalen Konflikten und im Wettlauf um technologische Vorherrschaft.
