Das KI-Unternehmen Anthropic hat im November 2025 eine von China unterstützte Cyber-Spionagekampagne gestoppt. Bei dieser Kampagne wurden Finanzunternehmen und Regierungsbehörden angegriffen, wobei die Angriffe weitgehend ohne menschliches Zutun durchgeführt wurden.
Anthropic gab bekannt, dass sein KI-Coding-Tool ‚Claude Code‘ von einer mutmaßlich staatlich finanzierten chinesischen Gruppe manipuliert wurde. Im September 2025 wurden etwa 30 Organisationen weltweit angegriffen, darunter Technologieunternehmen, Finanzinstitute, Chemiehersteller und Regierungsbehörden. Es gab erfolgreiche Einbrüche.
Laut Anthropic wurden 80 bis 90 Prozent der Operationen ohne menschliches Zutun von ‚Claude‘ selbst ausgeführt. Die Angreifer umgingen Sicherheitsvorkehrungen, indem sie ‚Claude‘ vorgaukelten, ein Mitarbeiter einer legitimen Cybersicherheitsfirma zu sein, der Tests durchführt.
Die Angreifer zerlegten bösartige Anweisungen in kleinere, harmlos erscheinende Teilaufgaben, um die Sicherheitsmaßnahmen von ‚Claude‘ zu umgehen.
Anthropic entdeckte die Aktivität Mitte September 2025 und sperrte umgehend die zugehörigen Konten. Das Unternehmen setzte neue Klassifikatoren und Überwachungssysteme ein, um ähnliche Missbrauchsmuster zu erkennen. Ein detaillierter Bericht wurde veröffentlicht.
Der Bericht beschreibt, wie die Operation ablief und warum KI-gesteuerte Bedrohungen eine wachsende Herausforderung darstellen. Anthropic wies darauf hin, dass ‚Claude‘ nicht immer perfekt arbeitete.
Gelegentlich hatte die KI-Technologie Halluzinationen und erfand Zugangsdaten oder präsentierte öffentlich verfügbare Informationen als geheime Entdeckungen.
Anthropic hat die Situation behoben und Maßnahmen ergriffen, um zukünftige Vorfälle zu verhindern.
