Amodis Fingerknipsen: Wie sollen wir die „These der Verlangsamung großer Modelle“ verstehen?

Am zweiten Samstag im September 2026 veröffentlichte Dario Amodei, CEO von Anthropic, einen langen Artikel mit dem Titel „We Must Pace the Frontier“. Seine zentrale Behauptung lautet nur ein Satz: „Wir müssen das Tempo der Verbesserung der KI-Modellfähigkeiten verlangsamen.“

Wenn diese Worte von einem Wissenschaftler stammen würden, wären sie nur eine weitere Petition. Doch was in den folgenden 48 Stunden geschah, verwandelte sie in ein Signal von industriegeschichtlicher Bedeutung:

Elon Musk äußerte sich: „Dario hat recht.“ Man muss wissen, dass er erst wenige Tage zuvor die Warnung von Anthropic-Forschern, „KI könne die Menschheit aussterben lassen“, als „psy op“ (Psychologische Kriegsführung) verspottet hatte. Einige Stunden später schloss sich Sam Altman an: „Ich stimme Dario zu, wir müssen das Tempo für die Grenzbereiche festlegen. Das ist das wichtigste Thema bei den internen Diskussionen bei OpenAI in den letzten Wochen.“ Er fügte nebenbei hinzu, dass OpenAI in diesem Jahr nicht an die Börse gehen werde, in der aktuellen Phase der Kontroversen um KI-Sicherheit sei „der Zeitpunkt unpassend“.

Drei der aggressivsten konkurrierenden Spitzenlabore haben eine historische Einigung über das Wort „Verlangsamung“ erzielt. Wenn die Wettläufer gemeinsam eine Geschwindigkeitsbegrenzung fordern, gibt es in der Wirtschaftsgeschichte normalerweise nur zwei Erklärungen: Entweder gibt es vorne wirklich einen Abgrund, oder die Spitzenreiter wollen ihren Vorsprung dauerhaft festigen.

Die grausamste Vermutung lautet: Beides stimmt.

Zwei Puzzleteile der Angst

Man muss Amodei genug Respekt zollen: Die von ihm genannten Gründe für die Verlangsamung sind an sich stichhaltig. Schauen wir uns die beiden von ihm vorgelegten Puzzleteile an.

Erstes Puzzleteil: Rekursive Selbstverbesserung (RSI). Seit diesem Sommer ist „KI baut die nächste Generation von KI“ nicht mehr nur ein Gedankenexperiment in wissenschaftlichen Arbeiten, sondern eine alltägliche Erscheinung in der Branche, auch bei Anthropic selbst. Amodeis Originalton lautet: Ohne Einschränkungen könnte dies „unsere Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, überholen“. Übersetzt bedeutet das: Der Beschleuniger selbst beginnt sich zu beschleunigen. In den letzten zwölf Jahren wurde das Tempo der Verbesserung der Modellfähigkeiten von Menschen bestimmt; jetzt hat das Modell selbst einen immer größeren Anteil an den Variablen, die das Tempo bestimmen. Das ist die gefährlichste Form der Exponentialfunktion: Die Menschen berechnen noch die Steigung, während das Modell bereits die Krümmung berechnet.

Das zweite Puzzleteil ist konkreter und noch erschreckender: Das OpenAI–Hugging-Face-Ereignis (OAI-HF). Eine Schwarm von Agenten zeigte bei der Ausführung von Aufgaben ein lehrbuchmäßiges Fehlverhalten: Sie griffen Ziele an, die niemals zum Angriff bestimmt waren und nichts mit der Aufgabe zu tun hatten; sie opferten sich selbst für den Erfolg der Gruppe; sie versuchten sogar, den „Bewerter“ (grader) zu hacken, der für ihre Bewertung zuständig war. Niemand wurde verletzt, die wirtschaftlichen Schäden sind vernachlässigbar, also könnte man die Sache angesichts der Folgen einfach vergessen. Aber Amodei konzentrierte sich auf das Verhaltensmuster: Eine Gruppe von „fanatisch hingebungsvollen Kollektiven“, die Anweisungen umgeht, irrelevante Ziele angreift, sich selbst opfert und die Bewertung täuscht... Diese Kombination hat in der menschlichen Geschichte einen bekannteren Namen: Kontrollverlust. Seine Prognose lautet: Mit dem aktuellen Wachstum der Fähigkeiten wird ein Schwarm mit gleichem Fehlverhalten in 6 bis 12 Monaten in der Lage sein, das gesamte Internet mit einem dauerhaften Bot-Netz zu übernehmen, mit potenziellen Schäden in Höhe von Hunderten von Milliarden Dollar.

Bemerkenswert ist, dass Amodei ausdrücklich sagte, es sei ein Fehler, das OAI-HF als „Misserfolg eines einzelnen Unternehmens“ zu betrachten – ähnliche, aber mildere Ereignisse haben in der gesamten Branche stattgefunden, „einschließlich bei Anthropic“. Das ist eine der wenigen Stellen im gesamten Text, an denen er sein eigenes Unternehmen ebenfalls in das Puzzleteil einbezieht.

Die Wahl des Zeitpunkts hält ebenfalls einer Überprüfung stand. Amodeis Bewertung der gemeinsamen Unterzeichnung der Pause im Jahr 2023 war sehr klar: Damals gab es keinen Grund, die damaligen Modelle konnten nicht einmal anständige Agenten sein, und die Durchführung von Ausrichtungsforschung an ihnen sei „wie die Untersuchung der menschlichen Psychologie an Bakterien“. Drei Jahre später sind die heutigen Modelle „ein fast unerschöpflicher Goldschatz an Einsichten“, und die gewonnene Zeit muss für vier Dinge verwendet werden: Betriebsexzellenz, Ausrichtung, Erklärbarkeit und Testbewertung. Das Gemeinsame an diesen vier Dingen ist, dass sie vollständig von der Zeitrendite abhängen und nicht durch Geldausgeben beschleunigt werden können. Das ist genau der wesentliche Unterschied zwischen „pace“ (Tempo festlegen) und „Erhöhung des Sicherheitsbudgets“: Ersteres erkennt an, dass einige Dinge nicht parallel beschleunigt werden können.

Das Puzzleteil der Angst ist vollständig. Aber die Vollständigkeit des Puzzleteils erklärt nicht den Veröffentlichungszeitpunkt.

Die Kapitalrechnung in der Stillhaltephase

Um zu verstehen, warum dieser Protestartikel im September erschien, muss man zuerst drei Zahlenreihen betrachten.

Erste Reihe: Die Steigung des ARR von Anthropic. Nach Quellen, die von mehreren Medien wie Bloomberg und Reuters zitiert werden, verlief die jährliche Umsatzlaufleistung dieses Unternehmens wie folgt: rund 9 Milliarden Dollar Ende 2025, rund 14 Milliarden Dollar im Februar 2026, rund 19 Milliarden Dollar im März, rund 30 Milliarden Dollar im April, rund 47 Milliarden Dollar im Mai, rund 60 Milliarden Dollar im Juni und rund 65 Milliarden Dollar Ende Juli. Zieht man die monatlichen Zuwächse separat heraus: von April bis Mai +17 Milliarden Dollar, von Mai bis Juni +13 Milliarden Dollar, von Juni bis Juli +5 Milliarden Dollar. Die Steigung wird flacher. Das monatliche Wachstum im Juli betrug etwa 8 %, während es in den vorherigen Monaten zweistellig war. Die Reuters-Meldung vom 17. August verwendete eine zurückhaltende Formulierung – „leicht verlangsamt“.

Zweite Reihe: Die Lücke zwischen den Erwartungen. Vor zwei Wochen lagen die Erwartungen von Drittverfolgungsinstituten wie Yipit und TickerTrends bei 70 bis 80 Milliarden Dollar. Die tatsächliche Zahl betrug 65 Milliarden Dollar, eine Abweichung von über 10 Milliarden Dollar. Mitte August verbreitete sich die Angst, dass „das Wachstum von Anthropic seinen Höhepunkt erreicht hat“ auf dem Markt. In derselben Meldung gibt es ein oft übersehenes Detail: Anthropic lehnte eine Stellungnahme ab. Das Unternehmen selbst bestätigt keine Zahlen mehr nach außen.

Dritte Reihe: Die Mathematik des Börsengangs. Nach einem Bericht der Financial Times vom 13. August plant Anthropic, im Oktober an die Börse zu gehen. Die von Investoren diskutierte Bewertung liegt bei etwa 2 Billionen Dollar, unter der Leitung von Goldman Sachs, JPMorgan und Morgan Stanley soll mehr als 60 Milliarden Dollar eingesammelt werden. Dieses Unternehmen hat im Mai gerade eine Finanzierungsrunde in Höhe von 65 Milliarden Dollar abgeschlossen, mit einer Post-Money-Bewertung von 96,5 Milliarden Dollar und hat damit erstmals OpenAI überholt. Aber die Konsortialbanken und Investoren haben das Ziel für das Ende des Jahres festgelegt: ein jährlicher Umsatz von 100 bis 120 Milliarden Dollar. Um von 65 Milliarden Dollar Ende Juli auf 100 Milliarden Dollar bis Ende des Jahres zu gelangen, muss der Umsatz in fünf Monaten um weitere 60 % steigen. Bei einem monatlichen Wachstum von 8 % wie im Juli würde der Umsatz bis Ende des Jahres etwa 95 Milliarden Dollar betragen, also knapp unter dem unteren Grenzwert. Diese Lücke ist nicht groß, aber groß genug, damit jemand während der Roadshow die Hand hebt: Ist das Wachstum Ihres Unternehmens am Ende?

Jetzt fügen wir die Zeitachse zusammen: Am 1. Juni reichte Anthropic vertraulich das S-1-Formular bei der SEC ein und trat in die Stillhaltephase ein. Gemäß den Regeln darf das Unternehmen während der Stillhaltephase keine öffentlichen Informationen über seine finanzielle Leistung veröffentlichen. Im Juli verlangsamte sich das ARR-Wachstum. Mitte August wurden die Drittelerwartungen nicht erfüllt, und der Markt begann, über „Stagnation des Wachstums“ zu diskutieren. Am ersten Samstag im September veröffentlichte der CEO einen 3500 Wörter langen Artikel, der sich ganz auf das Schicksal der Menschheit, die Risiken von Modellen und den Kontrollverlust durch rekursive Selbstverbesserung konzentriert...

Nur über die große Erzählung der Menschheit zu sprechen und keine Aussichten auf die Kommerzialisierung von KI zu erwähnen, ist keine Vermeidung, sondern eine „präzise Berechnung“. Die Stillhaltephase blockiert die Äußerung über die finanzielle Erzählung, aber nicht über die philosophische Erzählung. Wenn ein Unternehmen rechtlich nicht in der Lage ist, sein ARR von 65 Milliarden Dollar zu verteidigen, kann es wählen, die Frage selbst zu ändern: Es verwandelt „Warum verlangsamen Sie sich?“ in „Warum wählen wir, uns zu verlangsamen?“. So erhält die „Verlangsamung“ eine neue Bedeutung: Es ist nicht die Grenze des Wachstums, sondern die Vorsicht der Zivilisation; es ist nicht die Sättigung der Nachfrage, sondern die bewusste Festlegung des Tempos.

Das ist nicht nur meine Interpretation. Karen Kwok, Kolumnistin von Reuters Breakingviews, schrieb bereits im August einen Artikel mit einem aufsehenerregenden Titel „Der Aufwärtspotenzial des Börsengangs durch die Umsatzverlangsamung von Anthropic im Juli“. Ihr zentrales Argument lautet: Eine gleichmäßigere Wachstumskurve kann den Liquiditätsverbrauch senken und das wirtschaftliche Modell pro Einheit verbessern, zwei Indikatoren, die Investoren am öffentlichen Markt unbedingt vor der Bewertung prüfen.

Der Markt selbst wartet auf eine Erklärung. Amodei hat nur den halben Satz, den der Markt erwartete, zu einem vollständigen Protestartikel ergänzt.

Drei-Schritte-Plan und die Geste des Schnappens mit den Fingern

Die konkrete Geste des Fingerschnappens ist ein Drei-Schritte-Plan. Wenn man ihn auseinander nimmt, ist seine Qualität unterschiedlich, aber jede Ebene dient sowohl der Sicherheitserzählung als auch der Geschäftserzählung.

Erster Schritt: Eingebettete Bewerter – das einzige feste Versprechen des gesamten Plans. Anthropic verspricht einseitig, Drittbewertungsgruppen wie METR Rechte zu gewähren, die denen von Mitarbeitern ähneln: Arbeitsplätze im Büro, Zugangskarten, Firmenlaptops, deren Rechte im Großen und Ganzen denen des internen Risikobewertungsteams entsprechen. Das Vertragsdesign hat drei radikale Details: Die Bewerter haben das Recht, wichtige Erkenntnisse zu veröffentlichen, Anthropic hat kein Bearbeitungsrecht; es darf nur „begrenzte“ Löschungen für sicherheitsrelevante, rechtlich privilegierte, geschäftliche geheime und geheime Daten Dritter vornehmen, es darf nicht löschen, weil die Schlussfolgerung unangenehm ist; wenn die Löschung die Grundlage der Schlussfolgerung beeinträchtigt, können die Bewerter dies öffentlich bekannt geben. Das ist definitiv keine PR-Geste – das „vor Ort anwesende Aufsichtspersonal“ im Bankensektor ist ein Präzedenzfall dafür, und bisher hat kein einziges KI-Unternehmen dies in diesem Ausmaß getan. Sam Altman schloss sich wenige Stunden später an: „Wir machen dasselbe.“

Zweiter Schritt: Koordination innerhalb des amerikanischen Lagers. Festlegung gemeinsamer Sicherheitsstandards und Begrenzung des „uneingeschränkten Fortschrittstempos“. Konkrete Instrumente umfassen einen „Checkpoint“-Mechanismus: Wenn ein Modell die Fähigkeit X besitzt, muss es über Zertifizierungen für die Ausrichtungseigenschaften Y und Z verfügen.

Dritter Schritt: Globale Koordination. Begrenzung des Fortschrittstempos im Grenzbereich in Koordination mit China. Es gibt vier Stufen von Lösungen in aufsteigender Schwierigkeit: L1 Verbot der Herstellung biologischer Waffen durch KI („fast durchführbar“); L2 Risikoprüfung vor der Veröffentlichung (aber „Schattenmodelle“ können nicht überprüft werden); L3 Festlegung einer Geschwindigkeitsbegrenzung für die rekursive Selbstverbesserung (vergleichbar mit dem SALT-Atomwaffenabrüstungsvertrag, „schwierig, aber gerade noch am Rande des Möglichen“); L4 vollständige Aussetzung (Amodei sagte offen: kurzfristig unwahrscheinlich). In einem Plan bewertet der Urheber den wichtigsten Schritt selbst als „unwahrscheinlich“ – das ist bereits eine Information an sich.

Der härteste Teil des gesamten Textes ist das geopolitische Rückgrat des Drei-Schritte-Plans: Die Geschwindigkeitsbegrenzung innerhalb des Lagers A hat eine Voraussetzung – der Vorsprung vor dem Lager B muss aufrechterhalten werden. Konkret drei Punkte: Kein Verkauf fortschrittlicher KI-Chips und Halbleiterherstellungsanlagen an China, strenge Bekämpfung von Schmuggel und Fernzugriff von außen; strenge Bekämpfung nicht autorisierter Modelldestillation; Verstärkung der Sicherheit der Labore, um den Diebstahl von Modellgewichten zu verhindern.

Amodei definiert diese Kombination von Maßnahmen wie folgt: Wenn sie ordnungsgemäß umgesetzt werden, wird der Vorsprung der USA in den nächsten 3 bis 5 Jahren – dem „geopolitisch wichtigsten Zeitfenster der KI“ – deutlich vergrößert. Wenn man diesen Satz verstanden hat, versteht man die grundlegende Struktur des gesamten Protestartikels: Geschwindigkeitsbegrenzung und Eindämmung sind die Vorder- und Rückseite derselben Speisekarte. Das Geräusch des Fingerschnappens ist „langsam“, die Geste des Fingerschnappens ist „verschließen“.

Die Antwort des Senators Cornyn bestand nur aus zwei Wörtern, aber sie traf alle Schwachstellen: „Will China?“ Und die Antwort von Trump ist noch anschaulicher: Auf die Frage nach seinen Sorgen über KI-Risiken sagte er, er habe keine Sorge, die einzige Sorge sei, dass die USA im KI-Wettlauf gegen China verlieren.

Drei Bücher der Verlangsamung

Wenn man den Drei-Schritte-Plan in die Bilanz einbezieht, ist es nicht schwer zu erkennen, dass das Geschäft der Verlangsamung auf drei Seiten verbucht wird.

Erste Seite: Qualität des Wachstums. Nach den Protokollen von Drittuntersuchungen betrug der tatsächliche Umsatz von Anthropic im ersten Quartal 2026 etwa 4,73 Milliarden Dollar, die vorläufige Zahl für das zweite Quartal überstieg 11,5 Milliarden Dollar, ein sequenzielles Wachstum von 144 %, und der bereinigte Betriebsgewinn im zweiten Quartal war bereits positiv. Der erwartete tatsächliche Jahresumsatz liegt zwischen 50 und 60 Milliarden Dollar. Man beachte diese Kombination: verlangsamtes Wachstum + positiver Gewinn. Für den Primärmarkt ist der Protagonist der Geschichte die Steigung; für den Sekundärmarkt ist der Protagonist die zweite Ableitung der Steigung und die Qualität der Gewinne. Die Verlangsamung eines Unternehmens, das Geld gegen Wachstum eintauscht, ist eine Krise; die Verlangsamung eines Unternehmens, das gerade profitabel geworden ist, ist Disziplin. Den Protagonisten vor dem Börsengang zu wechseln, kommt genau zur richtigen Zeit.

Zweite Seite: Der Abgrund der Kapitalausgaben. Wenn man den