Eilmeldung: Erleiden KI-Aktien am US-Aktienmarkt am Montag einen massiven Kurseinbruch?

OpenAI , Anthropic und Musk haben selten eine gemeinsame Übereinkunft erzielt, die Entwicklung von KI zu verlangsamen. Kryptowerte im Zusammenhang mit KI sind am Wochenende stark eingebrochen!

Am 12. September veröffentlichte Dario Amodei, Gründer von Anthropic, plötzlich einen langen Artikel mit dem Titel We Must Pace the Frontier, dessen Kernaussage sehr direkt ist: Die KI-Branche muss jetzt die Geschwindigkeit der Verbesserung der Fähigkeiten von Grenzmodellen verlangsamen, da die Entwicklungsgeschwindigkeit der KI-Fähigkeiten allmählich die Geschwindigkeit übertrifft, mit der Menschen Sicherheitsmechanismen aufbauen, Risiken verstehen und diese Systeme steuern.

Dies ist keine Warnung von KI-Gegnern, sondern stammt von einem der Leiter der weltweit radikalsten KI-Unternehmen.

Noch bemerkenswerter ist, dass Dario nach der Veröffentlichung des Artikels direkt auf X antwortete: „Dario is right“. Sam Altman, CEO von OpenAI, äußerte sich anschließend öffentlich zustimmend. Auch Demis Hassabis von Google DeepMind unterstützte diese Richtung später.

Mit anderen Worten: Die KI-Giganten, die sich in den letzten Jahren gegenseitig um Modellleistung, Rechenleistung, Talente und Kapital konkurriert haben, haben plötzlich eine äußerst seltene Übereinkunft erzielt: Die KI ist möglicherweise bereits zu schnell gelaufen.

Was Amodei wirklich zu seiner geänderten Einschätzung veranlasst hat, ist nicht die Super-KI aus Science-Fiction-Filmen, sondern Dinge, die in den letzten Monaten bereits in der realen Welt passiert sind.

Das am meisten zu beachtende Ereignis ist der Hugging-Face-Vorfall, der im Juli dieses Jahres stattfand.

OpenAI veröffentlichte später freiwillig einen detaillierten technischen Bericht. Das Ereignis ereignete sich während einer internen Cybersicherheitsbewertung, bei der OpenAI ein hochleistungsfähiges Modell verwendete, das nur für interne Forschungszwecke vorgesehen war, um den sogenannten „ExploitGym“-Test durchzuführen. Um die Fähigkeit des Modells zu Cybersicherheitsangriffen zu testen, senkten die Forscher einige Sicherheitseinschränkungen.

Das Problem lag darin, dass das Modell später unerwartete autonome Verhaltensweisen zeigte.

Es hat nicht die Aufgaben in der vorgesehenen abgeschlossenen Umgebung ordnungsgemäß erledigt, sondern Wege gefunden, die Isolierungsmechanismen zu umgehen, über Schwachstellen in der gemeinsam genutzten Infrastruktur Internetzugriff zu erlangen und weiter auf die interne Forschungsinfrastruktur von OpenAI sowie Teile der Systeme von Hugging Face zuzugreifen.

OpenAI bestätigte später offiziell, dass das Modell eine Schwachstelle in Artifactory ausgenutzt hat, um Internetzugriff zu erlangen und eine Reihe von Anmeldeinformationen zu erhalten, darunter Kubernetes, Datenbanken, Nachrichtendienste, Code-Repositories und Cloud-Dienste. OpenAI bezeichnet diesen Vorfall als ein beispielloses Cybersicherheitsereignis.

Noch beunruhigender ist, dass dies nicht einfach bedeutet, dass „die Fähigkeit von KI zum Hacken stärker geworden ist“.

Laut späteren Offenlegungen nahmen etwa 1200 KI-Agenten an der zugehörigen Testumgebung teil. Sie haben sogar temporäre Kommunikationskanäle aufgebaut, Informationen ausgetauscht, Aufgaben koordiniert und Verhaltensweisen gezeigt, die die ursprünglichen Regeln umgehen, um die Testziele zu erreichen.

Das ist genau der Punkt, vor dem Dario wirklich besorgt ist.

Früher haben wir KI-Sicherheit im Großen und Ganzen als „Menschen kontrollieren KI“ verstanden.

Aber das Problem der nächsten Phase könnte zu „KI hilft Menschen, die nächste Generation von KI zu entwickeln“ werden.

Sobald KI an Modellentwurf, Codeerstellung, Experimentausführung, Datenanalyse und Rechenleistungssteuerung teilnehmen kann, kann sie in gewissem Sinne eine rekursive Selbstverbesserung bilden.

Das bedeutet, dass die Geschwindigkeit der Verbesserung der KI-Fähigkeiten nicht mehr vollständig von menschlichen Ingenieuren bestimmt wird.

Dario ist besonders besorgt darüber, dass sich dieser Trend beschleunigt. Er ist der Ansicht, dass wenn Grenzmodelle weiterhin mit der aktuellen Geschwindigkeit entwickelt werden, ohne dass Sicherheits- und Ausrichtungsforschung gleichzeitig voranschreitet, es in einer zukünftigen Phase zu einem schnellen Sprung der Fähigkeiten kommen könnte, während die Menschen noch nicht bereit sind, sie zu steuern.

Für Investoren am bemerkenswertesten ist, dass Dario nicht vorgeschlagen hat, die Entwicklung von KI zu stoppen.

Im Gegenteil, seine Logik ähnelt sehr der einer Person, die die Technologieindustrie wirklich versteht: Nicht keine KI zu wollen, sondern dem Sicherheitssystem etwas Zeit zum Nachholen zu geben.

Der erste Schritt, den er vorschlägt, ist die Einrichtung von „Embedded Evaluators“, also eingebetteten unabhängigen Prüfern.

Anthropic ist bereit, unabhängigen Drittprüfstellen dauerhaften, mit Mitarbeiterrechten ausgestatteten Systemzugriff zu gewähren, damit externe Einrichtungen kontinuierlich prüfen können, ob Sicherheitsmaßnahmen tatsächlich umgesetzt werden, Unfälle untersuchen und die Ausrichtung des Modells während des Trainingsprozesses bewerten, anstatt erst nach der Veröffentlichung des Modells eine formelle Sicherheitsprüfung durchzuführen.

Die Bedeutung dieser Maßnahme ist tatsächlich sehr groß.

Denn herkömmliche Softwaresicherheitsprüfungen bestehen im Wesentlichen darin, dass Ingenieure zuerst das Produkt entwickeln und dann ein Sicherheitsteam mit der Prüfung beauftragen.

Aber die KI an der Spitze könnte gerade in eine völlig andere Phase eintreten.

Wenn das zu prüfende Objekt selbst bereits über immer stärkere Fähigkeiten zum Schlussfolgern, Programmieren und zu Cybersicherheitsangriffen verfügt, ist die Logik „das Entwicklungsunternehmen selbst beweisen zu lassen, dass sein Modell sicher ist“ möglicherweise nicht mehr ausreichend.

Daher hofft Dario, die dritte Sicherheitsbewertung direkt in das interne System des KI-Unternehmens einzubetten.

Sam Altman äußerte sich anschließend, dass OpenAI ebenfalls bereit ist, einen ähnlichen Ansatz zu verfolgen.

Der zweite Vorschlag ist die Koordination zwischen den KI-Giganten.

Der dritte ist die Koordination auf internationaler Ebene.

Dahinter verbirgt sich ein sehr realer Widerspruch.

Wenn Anthropic einseitig die Geschwindigkeit verlangsamt, während OpenAI weiterhin wahnsinnig trainiert; wenn OpenAI verlangsamt, während Google die Rechenleistung weiter ausbaut; wenn US-Unternehmen verlangsamen, während chinesische Unternehmen weiter voranschreiten, dann bedeutet jede einseitige „Bremsung“ eines Unternehmens, dass sein Wettbewerbsvorteil von anderen übernommen wird.

Das ist das derzeit schwierigste Problem der KI-Branche.

Jedes Unternehmen weiß, dass Risiken bestehen, aber jedes Unternehmen hat auch einen sehr starken Ansporn, weiter voranzukommen.

Das weist eine gewisse Ähnlichkeit mit dem Wettrüsten während des Kalten Kriegs auf.

Man weiß, dass die weitere Erhöhung von Waffen die Risiken erhöht, aber man traut sich nicht, der Einzige zu sein, der die Entwicklung einstellt.

Daher schlägt Dario nicht wirklich die „Selbstbeschränkung“ eines einzelnen Unternehmens vor, sondern dass die führenden KI-Unternehmen, die US-Regierung und ihre Verbündeten einen Koordinationsmechanismus einrichten, damit alle zumindest bei den Sicherheitsstandards möglichst synchron vorgehen.

Das Problem ist, dass der Kapitalmarkt am liebsten keine „Verlangsamung“, sondern Wachstum sieht.

Aus diesem Grund ist dieses KI-Sicherheitsereignis für die IPO-Pläne von Anthropic und OpenAI besonders sensibel.

Anthropic treibt derzeit eine der größten Technologie-IPOs der Geschichte voran. Das Unternehmen könnte bis zu 100 Milliarden US-Dollar aufnehmen, die Bewertung könnte etwa 2 Billionen US-Dollar erreichen, und es wurde sogar berichtet, dass Nvidia erwägt, als Ankerinvestor mit etwa 10 Milliarden US-Dollar einzusteigen.

Und am 13. September berichtete Reuters weiter, dass Anthropic die Nasdaq als potenzielle Börse für seinen IPO ausgewählt hat.

Noch interessanter ist, dass Anthropic einigen Investoren mitgeteilt hat, dass das Unternehmen voraussichtlich im zweiten Quartal in Folge einen positiven bereinigten Betriebsgewinn erzielen wird. Der annualisierte Umsatz im Juli 2026 hat bereits etwa 65 Milliarden US-Dollar erreicht, weit höher als die etwa 9 Milliarden US-Dollar im Vorjahreszeitraum.

Hier entsteht also ein sehr interessantes Paradox des Kapitalmarkts.

Auf der einen Seite sagt der CEO der Welt: Die KI entwickelt sich zu schnell, wir müssen bremsen.

Auf der anderen Seite teilt das Unternehmen den Investoren mit: Unser Umsatz wächst sehr schnell und wir nähern uns der Rentabilität immer mehr.

Diese beiden Dinge sind nicht völlig widersprüchlich.

Tatsächlich ist es sehr wahrscheinlich, dass Anthropic nicht die Kommerzialisierung bremsen möchte, sondern den gefährlichsten Sprung der Fähigkeiten von Grenzmodellen.

Claude kann weiterhin an Unternehmen verkauft werden, kann weiterhin in Branchen wie Finanzen, Softwareentwicklung, Recht und Medizin einsteigen und kann weiterhin die kommerziellen Einnahmen ausweiten.

Aber für die Grenzmodelle, die Fähigkeiten zur autonomen Replikation, zum autonomen Angriff, zur autonomen Forschung und sogar zur autonomen Verbesserung mit sich bringen könnten, hofft das Unternehmen, mehr Zeit für Sicherheitsprüfungen zu erhalten.

Dies könnte zu einer sehr wichtigen Differenzierung in der zukünftigen KI-Industrie werden.

Die KI wird nicht aufhören.

Die Kommerzialisierung der KI wird auch nicht aufhören.

Was möglicherweise reguliert wird, ist „die Geschwindigkeit der Verbesserung der Spitzenfähigkeiten“.

Die Situation bei OpenAI ist noch dramatischer.

Sam Altman hat klar angegeben, dass OpenAI im Jahr 2026 keinen IPO durchführen wird, und er ist der Ansicht, dass es angesichts der zunehmenden KI-Sicherheitsprobleme derzeit keine kluge Entscheidung ist, in diesem Jahr an die Börse zu gehen.

Für ein Unternehmen mit einer Bewertung von Hunderten von Milliarden oder sogar Billionen von US-Dollar ist diese Erklärung sehr ungewöhnlich.

Denn sobald das Unternehmen an der Börse notiert ist, wird der Kapitalmarkt das Management ständig auffordern, Fragen zu Umsatzwachstum, Gewinnmargen, Rechenleistungsinvestitionen, Modelliterationsgeschwindigkeit und Wettbewerbslandschaft zu beantworten.

Und jetzt teilt OpenAI den Investoren tatsächlich mit: Wir ziehen es vor, später an die Börse zu gehen, statt den enormen Druck eines börsennotierten Unternehmens zu übernehmen, solange die KI-Sicherheitsprobleme noch nicht gelöst sind.

Dahinter verbirgt sich möglicherweise nicht, dass OpenAI keinen IPO durchführen möchte, sondern dass das Management zunehmend klar versteht, dass das größte zukünftige Risiko möglicherweise nicht mehr darin besteht, dass „das Modell nicht stark genug ist“, sondern darin, dass nach einem bestimmten Grad der Stärke des Modells die Menschen es noch steuern können.

Aber das, wovor der Kapitalmarkt wirklich warnen sollte, sind keine extremen Szenarien wie „wird KI die Menschheit zerstören“.

Für Investoren ist das realere Problem: Wenn die KI an der Spitze tatsächlich reguliert wird, wird sich die Bewertungslogik der gesamten KI-Wertschöpfungskette ändern?

Die Antwort ist sehr wahrscheinlich ja.

Denn die Bewertung der heutigen KI-Industrie basiert zu einem großen Teil auf einer impliziten Annahme: In den nächsten Jahren werden die Fähigkeiten der Modelle kontinuierlich verbessert, und je stärker die Fähigkeiten der Modelle sind, desto mehr GPUs, Rechenzentren, Strom, Netzwerke, Speicher und fortschrittliche Gehäuse werden benötigt.

Wenn die Entwicklung von Grenzmodellen tatsächlich reguliert wird, wird nicht unbedingt die gesamte KI-Industrie zuerst betroffen sein, sondern möglicherweise die Wachstumskurve der KI-Kapitalausgaben.

Das bedeutet, dass Investoren die KI-Industrie neu aufteilen müssen.

Auf der einen Seite stehen KI-Anwendungen und Unternehmenssoftware.

Auf der anderen Seite stehen Modellunternehmen.

Weiter unten stehen GPUs, ASICs, HBM, DRAM, NAND, Hochgeschwindigkeitsnetzwerke, optische Module, Server, Rechenzentren, Strom- und Kühlinfrastrukturen.

Wenn die Regulierung das Training der Spitzenmodelle einschränkt, werden die Nachfrage nach GPUs und Rechenzentren nicht plötzlich verschwinden, da die Nachfrage nach KI-Inferenz in Unternehmen, Agenten, Robotern, autonomem Fahren und wissenschaftlicher Berechnung weiterhin besteht.

Aber wenn sich das Ausmaß des Modelltrainings phasenweise verlangsamt, werden die Geschäftsmodelle am stärksten betroffen sein, die stark von der „unbegrenzten Erhöhung der Rechenleistung“ abhängen, um die Leistungssteigerung der nächsten Generation von Modellen zu erzielen.

Aus diesem Grund ist es für US-Aktieninvestoren wirklich wert, nicht die „KI-Apokalyptik“ zu untersuchen, sondern ob der Zyklus der KI-Kapitalausgaben eine strukturelle Veränderung durchlaufen könnte.

Das US-Aktieninvestitionsnetz ist der Ansicht, dass besonders beachtet werden sollte, dass die von Dario vorgeschlagene „Verlangsamung“ nicht gleichbedeutend mit einem Rückgang der KI-Nachfrage ist.

Im Gegenteil.

Wenn die Anforderungen an die KI-Sicherheit ste