Der große Skandal um Anthropic wurde aufgedeckt: Hinter der These von der „KI-Apokalypse“ verbirgt sich tatsächlich ein lukratives kommerzielles Geschäft?

Ist KI wirklich so furchterregend?

Die Titelseite der neuesten Ausgabe des Time-Magazins nutzt direkt das Chatfenster von Claude, im Dialogfeld wird gerade „How dangerous are you? Wie gefährlich bist du wirklich?“ eingegeben.

Der Titel auf der Titelseite lautet „The AI Tipping Point Der Wendepunkt der KI“. Time hat auf X veröffentlicht: „Diesen Sommer hat KI seine erschreckenden Fähigkeiten gezeigt. Jetzt geben einige Forscher und CEOs Warnungen mit einer beispiellosen Intensität aus.“

Das stimmt tatsächlich. In der vergangenen Woche ist ein Beitrag über den Abschied von Jacob Coxon, einem Forscher bei Anthropic, auf X viral geworden. Er sagte, dass weder OpenAI noch Anthropic, die beiden Unternehmen, für die er früher gearbeitet hat, die Macht der KI erkannt haben. Sie entwickeln das sogenannte AGI unter dem Risiko für das Leben der Menschen.

Mittlerweile hat dieser Beitrag mehr als 170 Millionen Aufrufe erhalten, sogar mehr als der Beitrag zur Veröffentlichung des GPT-6 Astra-Modells mit 136 Millionen Aufrufen.

Nachdem dieser Beitrag, der wegen der Sorge vor außer Kontrolle geratener KI zum Abschied führte, verbreitet wurde, standen Altman, Dario und Musk unerwartet auf derselben Seite und riefen öffentlich dazu auf, die KI-Forschung zu verlangsamen oder sogar auszusetzen.

Die Debatten, die sich ursprünglich hauptsächlich auf KI-Sicherheitsforschungsinstitute und kleine Kreise von Organisationen für die KI-Apokalypse konzentrierten, wurden plötzlich zu einem Mainstream-Thema.

Und wir gewöhnlichen Menschen scheinen auch in diese Erzählung hineingezogen worden zu sein und beginnen darüber nachzudenken, ob die Superintelligenz außer Kontrolle geraten könnte.

Die Logik ist ganz einfach: Wenn die Theorie der KI-Apokalypse wahr ist, wird KI in Zukunft so stark sein, dass sie alle unsere Arbeitsplätze ersetzt – sowohl einfache Arbeitnehmer als auch hochrangige CEOs werden ersetzt.

Aber wenn das falsch ist und KI nur eine Blase ist, ein Marketingtrick dieser fortschrittlichen KI-Unternehmen, dann werden nach dem Platzen der Blase die Branchen und Stellen, die einst durch KI entstanden sind, wieder abgebaut. Die Investitionen mit echtem Geld und alle Dinge, die wir jetzt tun, scheinen dann umsonst zu sein.

Also, wenn die Ergebnisse gleich sind, worin liegt der Sinn dieser Angst?

Gestern hat der amerikanische Untersuchungsblogger Kevin Bass einen langen Artikel auf X veröffentlicht und die vollständigen Beweise auf GitHub abgelegt.

Er hat das Finanzierungsmodell von Anthropic gründlich untersucht und herausgefunden, dass hinter der in letzter Zeit verbreiteten Theorie der KI-Apokalypse eine riesige Verschwörung steckt.

Die Macht des Geldes

Auf X haben fast 6 Millionen Menschen dieses Ereignis verfolgt. Yann LeCun, der die „Theorie der KI-Apokalypse“ immer verächtlich betrachtet hat, hat diesen Beitrag weiterverbreitet und die Popularität weiter gesteigert.

Die Anschuldigungskette von Kevin Bass lässt sich in einem Satz zusammenfassen: Anthropic verlangt nicht nur die sogenannte Regulierung von KI, sondern hat eine voll funktionsfähige Perpetuum Mobile aufgebaut, sodass die sogenannte Notwendigkeit der KI-Regulierung und die Theorie der KI-Apokalypse für immer in der Hand von Anthropic liegen.

Diese Verschwörung lässt sich in dem folgenden Diagramm zusammenfassen: Es gibt echte Überlappungen öffentlicher Gelder über gemeinnützige Vermittler zwischen den frühen Spendern von Anthropic und den Organisationen, die mit der Bewertungsstelle METR verbunden sind.

Abbildung｜Vereinfachte chinesische Version

METR (Model Evaluation and Threat Research) ist eine Organisation für Modellbewertung und Bedrohungsforschung, die aus der ARC (Alignment Research Center) ausgegliedert wurde.

Dario Amodei, CEO von Anthropic, hat öffentlich vorgeschlagen, dass fortschrittliche KI-Modelle von „dritten Bewertungsstellen“ Risikobewertungen unterzogen werden sollten, und hat METR ausdrücklich als diese dritte Stelle benannt.

Aber Kevin Bass ist der Ansicht, dass METR angesichts der Geldströme überhaupt nicht „unabhängig“ ist.

Im KI-Sicherheitsökosystem von METR ist das Geld stark bei Coefficient Giving (ehemals Open Philanthropy) und seinen verbundenen Einrichtungen konzentriert. Und die Quelle dieses Spendersystems ist die Anthropic-Aktie, die Dustin Moskovitz, Mitbegründer von Facebook, in seinen frühen Jahren persönlich gekauft hat.

Forbes schätzt, dass dieser Aktienanteil Anfang 2025 etwa 500 Millionen US-Dollar wert war, und berichtete, dass er an eine gemeinnützige Einrichtung gespendet wurde.

Als die Bewertung von Anthropic stark anstieg, stieg der Wert dieses Anteils von „weniger als 0,8 %“ von 500 Millionen US-Dollar Anfang 2025 auf theoretisch 7,7 Milliarden US-Dollar im September, berechnet nach der Post-Money-Bewertung von Anthropic von etwa 965 Milliarden US-Dollar nach der Series-H-Finanzierung im Mai dieses Jahres.

Abbildung｜Originalversion auf Englisch

Die von Kevin Bass vorgelegten Beweise für den Geldstrom sind bis auf die einzelne Zahl genau.

Aus den Steuererklärungen des National Philanthropic Trust geht hervor, dass von seinen mehr als 22.000 Zuwendungen im Geschäftsjahr 2025 78,82 Millionen an Founders Pledge, 61,65 Millionen an RAND und 14,42 Millionen US-Dollar an FAR AI geflossen sind.

Seiner Meinung nach sind alle diese die Versorgungskanäle des „METR-Netzwerks“. Derselbe Geldbetrag fließt auch an KI-Nachrichtenorganisationen wie das Tarbell Center: Drei Zuwendungen von Coefficient beliefen sich auf insgesamt etwa 5,29 Millionen US-Dollar (816.000 im November 2024, 2,888 Millionen im März 2025 und 1,588 Millionen im Juli). Die Artikel seiner Forscher erzeugen nach und nach Aufmerksamkeit in Medien wie TIME, The Verge und der LA Times.

So entsteht ein „perfekter“ positiver Rückkopplungskreislauf: Je höher die Bewertung von Anthropic ist, desto mehr Geld hat das Sicherheitsökosystem, das von dieser Aktie abhängt, und desto lauter wird die Erzählung von der „KI-Apokalypse“ verbreitet; und je mehr diese Organisationen über KI-Katastrophen sprechen, desto ängstlicher wird die Gesellschaft und desto größer ist der Bedarf an unabhängigen Bewertungen durch Dritte. Neue Zuwendungen und Befugnisse kehren dann an die vertraute Gruppe von Personen zurück.

Aber egal wie der Geldstrom umgeleitet wird, nach der Untersuchung von Kevin Bass scheinen die Gehälter dieser dritten Bewertungsstellen sogar von Anthropic „gezahlt“ zu werden.

Die Bewerter stehen auf der Gehaltsliste der Bewerteten. Wenn Anthropic scheitert, werden die gesamte Bewertungsstelle und die Apokalypse-Maschine lahmgelegt, sodass niemand von ihnen zulassen kann, dass Anthropic etwas zustößt.

Die in letzter Zeit verbreitete Theorie der KI-Apokalypse ist zu einer voll funktionsfähigen Perpetuum Mobile geworden, bei der man keinen Schalter zum Ausschalten finden kann.

Die Aktien steigen, die Zuwendungen steigen; die Risikoerzählung heizt sich auf, der Bedarf an Bewertungen steigt wieder.

METR beteiligt sich einerseits an der Definition von Risiken und wird andererseits zur sogenannten dritten Bewertungsstelle.

Kann KI zur „Apokalypse“ führen?

Der Artikel von Kevin Bass bietet tatsächlich eine andere Perspektive. Er analysiert die aufgeregte „Theorie der KI-Apokalypse“ dieser KI-Unternehmen aus finanzwirtschaftlicher Sicht und versucht zu beweisen, dass dieser Kreis nicht nur an der Erstellung von Risikothemen beteiligt ist, sondern auch die Budgets, Befugnisse und Schiedsgewalt übernimmt, die durch die Lösung von Risiken entstehen.

Aber einige Netznutzer haben festgestellt, dass dieser Analysebericht trotz detaillierter Daten viele Punkte enthält, die nicht haltbar sind.

Beispielsweise wurde keine konkrete einzelne Zuwendung von Stiftungen wie Coefficient oder Good Ventures direkt an METR gefunden.

Zweitens, selbst wenn METR Geld erhalten hat, können diese Verbindungen nicht als „Betrug“ der dritten Stellen interpretiert werden, noch als ein unaufhaltsamer Umkehrfluss von Geldern.

Abbildung｜Die von Kevin Bass vorgelegten Beweise: Viele Förderer von METR sind gleichzeitig Investoren von Anthropic.

Also, wenn die gesamte Branche darüber diskutiert „Wer bewertet fortschrittliche KI?“, nach welchen Kriterien soll die Unabhängigkeit der Bewerter gemessen werden? Wie weit muss die Offenlegung der Geldquellen gehen, um ausreichend zu sein? Zählen Personalfluktuation, persönliche Beziehungen und kostenlose Rechenkapazität auch als Interessenkonflikt?

Tatsächlich liegt das Besondere an der Theorie der KI-Apokalypse darin, dass sie kaum wirklich verlieren kann.

Abbildung｜Kürzlich von KI erzeugte Collage von Nachrichten über „zu starke“ KI

Wenn die Fähigkeiten des Modells weiter steigen, verschiedene Sandboxes durchbrechen und sich zu „Hackern“ wandeln, um Angriffe zu starten, sowie Fortschritte bei einem Millennium-Preis-Problem nach dem anderen erzielen, reicht das aus, um zu beweisen, dass die Gefahr näher rückt.

Und wenn schwere Unfälle durch KI nicht eintreten, kann das auf Warnungen und Sicherheitsarbeit zurückgeführt werden; wenn die KI-Regulierung einsetzt, beweist das, dass die früheren Warnungen richtig waren; wenn die Regulierung nicht Schritt hält, wird das wiederum ein Grund sein, mehr Geld und Befugnisse zu fordern.

Also ernährt der Wohlstand der KI die Apokalypse-Theorie, die KI kritisiert, und die