Anthropic hat 320,8 Milliarden Yuan aufgebracht – ist das die Bezahlung für die KI-Weltuntergangstheorie?

Einen Tag nachdem Anthropic-Mitbegründer Jack Clark verkündete, dass „die Singularität bereits begonnen hat“, bereitet sich Anthropic darauf vor, 5 % der Unternehmensanteile bereitzustellen, um die gesellschaftlichen Probleme zu bewältigen, die durch KI verursacht werden könnten.

Ausgehend von einer Bewertung von 965 Milliarden US-Dollar im Mai belaufen sich diese Anteile auf einen Wert von rund 480 Milliarden US-Dollar (umgerechnet etwa 320,8 Milliarden Yuan). Eine der Verwendungen des Geldes besteht darin, die durch KI verursachten Beschäftigungsschocks zu bewältigen, und es wird sogar in Betracht gezogen, direkt Geld an die betroffene Bevölkerung auszuzahlen.

In den vergangenen Jahren war Anthropic einer der aktivsten Verfechter der KI-Apokalypse-Theorie, von der außer Kontrolle geratenen Superintelligenz und dem Aussterben der Menschheit bis hin zu Millionen von arbeitslosen Angestellten.

Allerdings arbeitet das Unternehmen, das sich am meisten Sorgen um die KI-Zerstörung der Welt macht, selbst mit aller Kraft an der Entwicklung stärkerer KI und bereitet sich sogar darauf vor, einen Billionen-US-Dollar-IPO zu erreichen.

Die KI-Apokalypse-Theorie war einst ein Markenzeichen von Anthropic, um zu beweisen, dass es ausreichend fortschrittlich ist. Nun, da der Börsengang näher rückt, beginnt diese Erzählung, umgekehrt Rechnungen von ihm einzufordern.

Anthropic wird von seinen eigenen Apokalypse-Prognosen heimgesucht

Am 14. Oktober schrieb Mark Levine, der Rechnungsprüfer der Stadt New York, einen Brief an Amodei und forderte Anthropic auf, den IPO auszusetzen.

Er ist für die Überwachung der öffentlichen Pensionsfonds der Stadt New York mit einem Gesamtvermögen von mehr als 325 Milliarden US-Dollar verantwortlich, von denen etwa 7 Millionen US-Dollar indirekt über Private-Equity-Investitionen in Anthropic investiert sind.

Levine listete in dem Brief speziell die jüngsten Warnungen von Anthropic auf:

Am 9. September erklärte Jacob Coxon, ein Forscher von Anthropic, bei seinem Ausscheiden, dass einige Personen im Unternehmen aufrichtig glauben, dass KI alle Menschen vor 2030 töten könnte. Evan Hubinger, Leiter der Ausrichtungsforschung, ist sogar der Ansicht, dass die Wahrscheinlichkeit des durch KI verursachten menschlichen Aussterbens in den nächsten zehn Jahren über 10 % liegt.

Drei Tage später veröffentlichte Amodei einen langen Artikel, in dem er dazu aufrief, das Wachstum der Fähigkeiten fortschrittlicher Modelle zu verlangsamen, und warnte davor, dass die Selbstverbesserung von KI außerhalb der menschlichen Kontrolle geraten könnte.

Ende September schrieb Anthropic die Apokalypse-Prognose sogar in den Entwurf des IPO-Anmeldeformulars ein – in dem 261-seitigen Hauptteil dieses Dokuments sind nur 48 Seiten der Beschreibung der Geschäftstätigkeit des Unternehmens gewidmet, während etwa 80 Seiten für die Offenlegung von Risiken verwendet werden. Darin wird ausdrücklich gewarnt, dass fortschrittliche KI katastrophale und sogar existenzbedrohende Bedrohungen für die Menschheit verursachen könnte.

Levine erklärte, dass da Anthropic dazu aufruft, die Entwicklung von KI zu verlangsamen, es bei der Förderung des IPO die gleiche Vorsicht zeigen sollte.

Ähnliche Kritik taucht nicht zum ersten Mal auf.

Dieses Jahr im August kritisierte der Technologieinvestor Gavin Baker Amodei öffentlich und meinte, dass er die Gefahren von KI wiederholt übertreibe, was die Abneigung der amerikanischen Gesellschaft gegen KI fördere und sogar den Widerstand der Bevölkerung gegen den Bau von Rechenzentren verschärfe.

Bildunterschrift: Teil des Inhalts von Gavin Bakers öffentlicher Kritik an Amodei auf X

Baker riet ihm, als CEO eines Unternehmens, das bald eines der wichtigsten Technologieunternehmen der Welt werden wird, mehr positive Worte für seine Branche zu sprechen. Amodei stimmte dem nicht zu. Er räumte ein, dass die negative Einstellung der Öffentlichkeit gegenüber KI ein ernstes Problem sei, aber er meinte, dass dies hauptsächlich eine Vertrauenskrise sei und nicht den Warnungen der KI-Unternehmen vor Risiken zugeschrieben werden könne.

Anthropic hat mehrere Jahre lang der Welt erzählt, wie gefährlich KI ist, und jetzt glauben es wirklich einige Leute und fordern, dass es dafür einen Preis zahlt.

Reden von Verlangsamung, aber Vollgas geben

Amodei glaubt, dass KI außer Kontrolle geraten könnte, und hat wiederholt dazu aufgerufen, die technologische Entwicklung zu verlangsamen, aber die kommerzielle Expansion von Anthropic hat dadurch nicht aufgehört.

Am 12. September rief Amodei gerade dazu auf, das Wachstum der Fähigkeiten fortschrittlicher KI zu verlangsamen. Zehn Tage später brachte Anthropic Opus 5.5 auf den Markt.

Unmittelbar danach erschien am 28. September Sonnet 5.5, und am 7. Oktober wurde Haiku 5.5 veröffentlicht. In nur einem halben Monat hat die Claude 5.5-Serie drei Modelle aktualisiert und einen Preiskampf gestartet.

Die Modellentwicklung hat nicht angehalten, und die Geschwindigkeit des Geldverbrauchs hat sich auch nicht im Geringsten verlangsamt.

Zuvor wird laut dem von ausländischen Medien offengelegten Entwurf des IPO-Anmeldeformulars erwartet, dass die Ausgaben für Rechenleistung und Infrastruktur von Anthropic in den nächsten zehn Jahren mindestens 5180 Milliarden US-Dollar erreichen. Davon entfallen etwa 80 % auf Verpflichtungen, die nicht storniert werden können oder für die unabhängig von der tatsächlichen Nutzung gezahlt werden muss.

Erst kürzlich hat die Wall Street erneut damit begonnen, eine Chipfinanzierung von rund 600 Milliarden US-Dollar für Anthropic zu beschaffen, um etwa 1,5 GW an Google-TPUs zu beschaffen. Der Transaktionscode lautet „Projekt Polaris“ und dürfte die größte Chipfinanzierungstransaktion in der Geschichte werden.

Bei dieser Transaktion kaufen Investmentinstitute Chips mit eigenem Geld und stellen sie Anthropic über einen Fünfjahresmietvertrag zur Nutzung zur Verfügung. Darunter plant ein Fonds unter Blackstone, 90 Milliarden US-Dollar an hochriskanten Schulden zu zeichnen, mit einem Kupon von 10 %. Um genügend Chips zu erhalten, ist Anthropic bereit, sehr hohe Finanzierungskosten zu tragen.

Solch riesige Investitionen erfordern natürlich noch größere Einnahmen zur Unterstützung.

Am 14. Oktober veranstaltete Anthropic einen Investorentag vor dem Börsengang und gab bekannt, dass der Umsatz im dritten Quartal 16,8 Milliarden US-Dollar erreicht hat und das bereinigte Ergebnis im zweiten Quartal in Folge positiv war.

Aber die Wachstumsgeschwindigkeit hat sich bereits verlangsamt. Im zweiten Quartal stieg der Umsatz von Anthropic im Vergleich zum Vorquartal um etwa 145 %, im dritten Quartal sank die Wachstumsrate auf 45 %. Obwohl die Leistung nicht schlecht ist, hat sie einige Investoren enttäuscht. Laut Berichten von Reuters haben einige Investoren, die am Investorentag teilgenommen haben, sogar begonnen, darüber zu diskutieren, die erwartete IPO-Bewertung von Anthropic auf 1,5 Billionen US-Dollar zu senken.

Interessanterweise hat Amodei dieses Mal, obwohl er die KI-Sicherheit noch betont hat, nicht mehr aktiv über das Risiko des menschlichen Aussterbens gesprochen.

Schließlich muss Anthropic gegenüber den Investoren, die bald Geld ausgeben werden, eher sein Wachstumspotenzial zeigen. Selbst wenn Amodei wirklich der Ansicht ist, dass sich die KI-Entwicklung zu schnell vollzieht, kann Anthropic kaum noch anhalten.

Anthropic zahlt gerade für seine eigenen Prognosen

In gewisser Weise kann die Theorie der KI-Weltvernichtung selbst eine sehr extreme technische Propaganda sein. Wenn Anthropic wiederholt warnt, dass KI Millionen von Angestellten arbeitslos machen oder sogar die Menschheit zerstören könnte, zeigt es der Welt auch, dass die von ihm beherrschte Technologie bereits so mächtig ist, dass sie das Schicksal der Menschheit verändern kann.

Je gefährlicher die Technologie dargestellt wird, desto mehr Verantwortung muss Anthropic übernehmen.

Am 15. Oktober kündigte Anthropic an, sechs Mitarbeitern der gemeinnützigen KI-Bewertungsstelle METR Zugriffsrechte auf nahezu das Niveau von internen Mitarbeitern zu gewähren. Diese externen Bewerter können die internen Tools und Systeme des Unternehmens verwenden, Modelle, Sicherheitsmaßnahmen und potenzielle Risiken prüfen und unabhängig Bewertungsergebnisse veröffentlichen. Anthropic kann die Veröffentlichung nicht direkt verhindern, kann aber verlangen, dass bestimmte sensible Informationen gelöscht werden.

Dies kann auch als Erfüllung des Versprechens angesehen werden, das Amodei vor einem Monat in seinem langen Artikel abgegeben hat.

Für ein Unternehmen, das immer betont, dass KI außer Kontrolle geraten könnte, ist es offensichtlich überzeugender, Fremde hereinzulassen, um zu prüfen, ob es die KI gut verwaltet, als nur Warnungen auszusprechen.

Auf dem Gebiet der sozialen Verantwortung hat Anthropic noch größere Maßnahmen ergriffen.

Dieses Jahr im Juni kündigte Anthropic an, 200 Millionen US-Dollar zu investieren, um einen Forschungsfonds für die wirtschaftliche Zukunft zu gründen. Im Juli präzisierte das Unternehmen die Forschungsrichtungen weiter, einschließlich beruflicher Umstellung, Einkommenssicherung bei Arbeitslosigkeit und der Möglichkeit für Arbeitnehmer, an dem durch KI geschaffenen Wohlstand teilzuhaben.

Am 18. Oktober ging Anthropic noch einen Schritt weiter und kündigte an, 5 % der Unternehmensanteile zur Gründung eines gemeinnützigen Fonds bereitzustellen.

Gemäß dem offiziell veröffentlichten Plan kann der Vorstand bei jedem Anstieg der Unternehmensbewertung um 50 % nach eigenem Ermessen weitere 2 % der Anteile zum Fonds hinzufügen. Zusammen mit den früheren Spendenversprechen der Gründer und Mitarbeiter erklärte Anthropic, dass künftig etwa 20 % der Unternehmensanteile für das öffentliche Wohl verwendet werden könnten.

Aber derzeit sind diese Anteile im Wert von rund 480 Milliarden US-Dollar noch ein Versprechen, das der Genehmigung der Aktionäre bedarf. Wie sie genau verwendet werden, muss noch weiter offengelegt werden.

Nach der Nachricht kam Musk in den Kommentarbereich von Anthropic und gab eine scharfe Bewertung ab: „Ich schlage vor, die Anteile direkt an die Öffentlichkeit zu verteilen.“ 

Anschließend veröffentlichte er einen Beitrag und erklärte: „Nächstes Jahr werde ich SpaceX-Aktien an jedes Kind in den Vereinigten Staaten verteilen.“ 

Einige Nutzer haben in Musks Kommentarbereich offen gesagt, dass die Vorgehensweise von Anthropic wahrscheinlich nur für die Öffentlichkeitsarbeit ist. 

Von dem öffentlichen Aufruf zur Verlangsamung über die aktive Akzeptanz externer Aufsicht bis hin zur Bereitstellung riesiger Anteile zur Unterstützung gemeinnütziger Zwecke versucht Anthropic zu beweisen, dass es in der Lage ist, die Risiken und sozialen Folgen zu tragen, die durch KI verursacht werden könnten.

Dazwischen mag es aufrichtiges Verantwortungsbewusstsein geben, aber auch notwendige Imagepflege vor dem Börsengang. Beides steht nicht im Widerspruch zueinander.

Als Anthropic damals die Geschichte der KI-Apokalypse erzählte, hat es vielleicht nicht erwartet, dass es eines Tages wirklich Hunderte von Milliarden Dollar für diese Geschichten bezahlen muss – und dieses Geld nicht unbedingt das Vertrauen der Öffentlichkeit kaufen kann. 

Dieser Artikel stammt aus dem WeChat-