Lange Zeit schien es so, als könne sich die KI-Branche nur in eine Richtung bewegen: nach oben. Starkes Wachstum von KI-Unternehmen an den Börsen, ständig leistungsfähigere Modelle, geplante Mega-Börsengänge der KI-Riesen OpenAI („ChatGPT“) und Anthropic („Claude“). Und dann das: Nach nur drei Tagen am Markt musste Anthropic Mitte Juni das erste Modell seiner neuen Modellklasse „Mythos“, die deutlich leistungsstärker als die bisherige „Opus“-Klasse sein sollte, namens „Claude Fable 5“ wieder abschalten, und das weltweit.
„Mythos“ ist eigentlich darauf spezialisiert, Schwachstellen in Software zu identifizieren und auszunutzen, also beispielsweise Quellcodes zu lesen, bestimmte Muster zu erkennen und angreifbare Stellen zu markieren. Deshalb hatte Anthropic das Modell aus Sorge, es könnte sonst in die falschen Hände geraten, nur 200 ausgewählten Unternehmen und Organisationen zur Verfügung gestellt. Aber: Das Modell konnte nicht nur Schwachstellen benennen, sondern auch selbstständig in Computersysteme einbrechen. Es analysierte laufende Programme von innen, griff aktiv in Systeme ein und plante den gesamten Angriff in Etappen – zunächst das Erkunden der Systeme und der Lücken, dann das Eindringen, dann das Ausbreiten im Netzwerk von Rechner zu Rechner und schließlich das Entwickeln eines maßgeschneiderten Angriffswerkzeugs, das die gefundene Lücke ausnutzt. Was erfahrene Sicherheitsexperten Tage oder Wochen beschäftigt hätte, erledigte das Modell in einem Durchgang ohne jede menschliche Anleitung.
Das Max-Planck-Institut für Sicherheit und Privatsphäre hat in Zusammenarbeit mit Anthropic und OpenAI die neuen Modelle Claude Mythos und ChatGPT-5.5 getestet. Das Ergebnis: Offenbar sind die getesteten modernen agentischen Systeme schon heute gut genug, um die Zeit zwischen dem Bekanntwerden einer Schwachstelle und ihrer praktischen Ausnutzung deutlich zu verkürzen. „Früher brauchte man dafür Spezialisten, jetzt übernehmen KI-Agenten Teile dieser Arbeit“, sagt Thorsten Holz, wissenschaftlicher Direktor des Max-Planck-Instituts für Sicherheit und Privatsphäre, und betont: „Das bedeutet nicht, dass jede Stadtwerke-Anlage morgen abgeschaltet werden kann. Aber der Abstand zwischen einfachen Cyberkriminellen und staatlichen Akteuren wird kleiner.“
KI: immer auch ein politisches Thema
Die schwerwiegende Lücke hat indes nicht Anthropic festgestellt, sondern ein Forschungsteam von Amazon. Die Experten wiesen nach, dass der „Fable“-Sicherheitsfilter umgangen werden konnte, um Informationen für Cyberangriffe zu erhalten. Amazon-CEO Andy Jassy informierte daraufhin die US-Regierung, Anthropic erhielt 90 Minuten Vorlauf für die Abschaltung des Systems außerhalb der USA, ohne jede vorherige Warnung. Somit ist laut eines Schreibens von US-Handelsminister Howard Lutnick an Anthropic für „den Export, den Reexport oder die Weitergabe der Modelle ‚Claude Mythos 5‘ und ‚Claude Fable 5‘ in alle Bestimmungsorte weltweit sowie an alle ausländischen Personen unabhängig von deren Standort eine Genehmigung erforderlich“. Anthropic widersprach jedoch der impliziten Schwere des Vorwurfs. In einer späteren Stellungnahme legte das Unternehmen dar, dass exakt dieselben Schwachstellen auch von deutlich weniger leistungsstarken Modellen identifiziert werden konnten – darunter „Claude Haiku“, „Claude Opus 4.8“ und „GPT-5.5“. Der Jailbreak habe keine einzigartigen „Mythos-Fähigkeiten“ freigesetzt, sondern lediglich eine Grenzzone im Sicherheitsfilter berührt. Damit war klar: Der Streit war ebenso sehr ein politischer wie ein technischer. Übrigens: Das Verbot betraf auch Nicht-US-Bürger innerhalb der USA, einschließlich Anthropic-Mitarbeiter selbst. Das KI-Unternehmen hatte daraufhin auch den Zugang in den USA selbst abgeschaltet mit dem Argument, nicht die Nationalität jedes Nutzers in Echtzeit überprüfen zu können.
Für Anthropic kam dieser Einschlag zur Unzeit. Immerhin hatte das Unternehmen kurz zuvor vertraulich einen Antrag zum Börsengang eingereicht, mit einer angestrebten Bewertung von rund einer Billion Euro und geplantem Launch im Herbst dieses Jahres, einer der größten Börsengänge der Geschichte. „Das Timing war für das Unternehmen entsprechend desaströs, aber die Sperrung ist auch ein deutliches Warnsignal für die KI-Entwicklung generell“, sagt Christian Hintz, Fondsmanager und KI-Experte aus Stuttgart. „Künstliche Intelligenz ist immer auch ein politisches Thema und kann große Auswirkungen auf die internationale Sicherheitsarchitektur haben. Damit wird es auch zu einem machtpolitischen Druckmittel.“ Die Vorgänge zeigten einmal mehr, dass Europa dringend in die eigene KI-Entwicklung investieren müsse, um sich von politischen Interessen unabhängiger zu machen.
Ein passender Zufall
Dann kam die große Wende: Am 30. Juni 2026, knapp drei Wochen nach der Sperrung, hob das US-Handelsministerium die Exportkontrolle wieder auf. Handelsminister Howard Lutnick erklärte, Anthropic benötige keine Exportlizenz mehr, allerdings erst, nachdem das Unternehmen zugesagt hatte, Sicherheitsrisiken seiner Modelle künftig proaktiv zu erkennen und zu melden, mit der Regierung bei künftigen Modell-Veröffentlichungen zusammenzuarbeiten und jede entdeckte missbräuchliche Nutzung zu melden. Seit dem 1. Juli steht „Fable 5“ weltweit wieder auf der Plattform Claude.ai, in „Claude Code“ und „Claude Cowork“ zur Verfügung. Ein wichtiger Unterschied bleibt jedoch bestehen: Das leistungsstärkere Modell „Mythos 5“, das für offensivere Sicherheitsanwendungen ausgelegt ist, bleibt für die breite Öffentlichkeit gesperrt und steht nur einer begrenzten Zahl ausgewählter US-Organisationen zur Verfügung.
Auch wenn „Fable 5“ seit dem 1. Juli zurück ist, stellt diese Affäre für den KI-Kenner Christian Hintz einen Präzedenzfall dar: KI-Software fällt jetzt unter dasselbe Exportkontrollrecht wie Rüstungsgüter und Nukleartechnologie. Ein Handelsminister kann ein Produkt, das Millionen Menschen weltweit nutzen, per Erlass über Nacht sperren – ohne Gerichtsverfahren, ohne Einspruchsrecht, ohne jede Beteiligung der betroffenen Länder. „De facto handelt es sich damit um eine staatliche Aufsicht über kommerzielle Produktentscheidungen eines Privatunternehmens. Das ist ein Novum in der Geschichte der Technologiepolitik.“
Dass Papst Leo XIV. nur vier Wochen vor dem Verbot seine erste Sozialenzyklika „Magnifica humanitas“ („Die großartige Menschheit“) veröffentlichte, ist zwar Zufall, aber ein passender. So fordert er, dass KI der Logik des bewaffneten Wettbewerbs zu entziehen, der heute nicht nur militärischer, sondern auch wirtschaftlicher und kognitiver Natur sei, und betont, dass KI kein moralisch neutrales Werkzeug sei: Es komme nicht nur darauf an, wie sie genutzt wird, sondern auch, wie sie konzipiert sei. Der ironische Nachklang: Als die Enzyklika erschien, begrüßte Anthropic sie öffentlich – und wenige Wochen später wurde das gefährlichste KI-Modell des Unternehmens durch staatlichen Eingriff tatsächlich zunächst „entwaffnet“. Dass es ausgerechnet Anthropic traf – eben das Unternehmen, das seinen Sicherheitsanspruch öffentlich und mit päpstlicher Rückendeckung zu seinem Markenkern erklärt hatte –, zeigt, wie wenig dieser Anspruch im Ernstfall schützt. Wer das leistungsfähigste KI-Werkzeug der Welt baut, ist nicht mehr nur Technologieunternehmen. Er ist geopolitischer Akteur, ob er will oder nicht.
Der Autor ist Germanist und Prorektor der Allensbach Hochschule (Konstanz). Er ist als Publizist und Berater tätig.
Die Printausgabe der Tagespost vervollständigt aktuelle Nachrichten auf die-tagespost.de mit Hintergründen und Analysen.
