Die Umsätze von OpenAI und Anthropic sind bedroht: Unter Kostendruck wenden sich immer mehr KI-Startups Open-Source-Modellen zu

Der juristische KI-Einhorn Harvey verzeichnete in diesem Jahr einen Bruttogewinn, der zeitweise auf -50 % fiel – ein Sinnbild dafür, dass immer mehr KI-Anwendungs-Startups angesichts der stetig steigenden API-Gebühren von OpenAI und Anthropic auf Open-Source-Gewichtsmodelle setzen, um die Kostenkontrolle zurückzugewinnen.

Dieser Trend beschleunigt sich. Startups aus den Bereichen Recht, Gesundheitswesen, Finanzen und Kundenservice wie Harvey, Abridge, Decagon und Ramp haben nacheinander Pläne zur Eigenentwicklung oder Anpassung von Modellen angekündigt, wobei einige Unternehmen bereits 80 % des Datenverkehrs auf eigene Modelle umgestellt haben.

Führende Investmentinstitute wie Sequoia Capital und General Catalyst fördern diese Entwicklung im Hintergrund.

Dieser Schritt übt direkten Druck auf OpenAI und Anthropic aus. Beide Unternehmen bereiten sich derzeit auf ihre mit Spannung erwarteten Börsengänge vor, und der Abfluss von Kunden auf der Anwendungsebene könnte ihre wichtigste Einnahmequelle schmälern.

01

Bruttogewinne stürzen ab und zwingen Harvey, seine Modellstrategie neu zu gestalten

Die Lage von Harvey verdeutlicht dies am besten.

Dieses juristische KI-Startup mit einer Bewertung von 15,6 Milliarden US-Dollar hat lange Zeit GPT-4 von OpenAI als Kern seiner Produkte verwendet. Laut Bloomberg stieg die Nutzung durch die Nutzer stark an, nachdem das Unternehmen im März dieses Jahres ein großes Update seines KI-Agenten veröffentlicht hatte, was zu einem abrupten Rückgang des Bruttogewinns führte – von etwa 50 % zu Beginn des Jahres auf -50 % im Juni.

Die Nutzung von KI-Token bei Harvey hat sich in diesem Jahr verzwanzigfacht.

Gabe Pereyra, Mitbegründer und Präsident von Harvey, erklärte, bisher hing die Leistung von KI-Anwendungen stark von den Fähigkeiten der zugrunde liegenden Modelle ab, sodass die Bezahlung der besten Modelle von OpenAI und Anthropic eine notwendige Wahl war, während die Bedeutung des selbst trainierten Modells relativ begrenzt war. Diese Logik lockert sich jedoch unter dem hohen Kostendruck.

Im August dieses Jahres veröffentlichte Harvey sein eigenes Modell, das von Kimi K3 von Moonshot AI unterstützt wird. Die Leistung dieses Modells kommt dem besten Produkt von Anthropic nahe, die Kosten betragen aber nur einen Bruchteil davon. In Kombination mit anderen Anpassungen der KI-Nutzungsstrategie ist der Bruttogewinn von Harvey wieder positiv.

02

Die Welle der Nutzung von Open-Source-Modellen erfasst mehrere vertikale Branchen

Die Transformation von Harvey ist kein Einzelfall, dieser Trend hat sich in mehreren Branchen ausgebreitet.

Das Medizintechnik-Startup Abridge kündigte kürzlich an, ein eigenes Basismodell für klinische Szenarien auf Basis des Open-Source-Modells von Nvidia zu erstellen.

Das KI-Kundenservice-Startup Decagon gab an, dass derzeit 80 % der Abfrageanfragen über sein eigenes Modell laufen.

Im Bereich der Finanztechnologie erkunden Ramp und Rogo erstmals die Möglichkeit, eigene Modelle zu trainieren.

Im Bereich der Programmierwerkzeuge gehören Cursor, das mittlerweile zu SpaceX gehört, und Cognition mit einer Bewertung von 48 Milliarden US-Dollar zu den ersten KI-Anwendungsunternehmen, die angepasste Modelle veröffentlicht haben.

Karim Atiyeh, Mit-CEO von Ramp, erklärte, dass das Training eines spezialisierten Modells bisher wirtschaftlich völlig unvernünftig war. Mit dem Abschluss einer Finanzierungsrunde von 750 Millionen US-Dollar im Juni dieses Jahres und dem deutlichen Leistungssprung von Open-Source-Gewichtssystemen kehrt sich diese Logik jedoch um.

Dr. Lan Xuezhao, Gründer und Managing Partner des in San Francisco ansässigen Venture-Capital-Unternehmens Basis Set, vertrat eine härtere Haltung:

"Wenn Sie die Kosten nicht optimieren und Ihre eigenen Modelle nicht feinabstimmen, sind Sie per Definition ineffizient. Wenn ein Unternehmen nicht in Betracht zieht, eigene Modelle zu erstellen, bekommt es möglicherweise überhaupt keine Finanzierung."

03

Doppelter Druck von geschlossenen Modell-Giganten: Preiserhöhungen und Markteindringen

Angetrieben wird diese Veränderung nicht nur von den Kosten selbst, sondern auch von der immer durchsetzungsfähigeren Geschäftsstrategie von OpenAI und Anthropic.

Beide Unternehmen haben kürzlich dazu übergegangen, den Unternehmenskunden zusätzliche Gebühren für die Modellnutzung zu berechnen. Zusammen mit den bisherigen Abonnementgrundgebühren wird das Nutzungsmodell mit "maximaler Token-Nutzung" direkt bestraft. Berichten zufolge hat Uber, nachdem es seine Ingenieure dazu ermutigt hatte, Claude Code von Anthropic maximal zu nutzen, bereits im April das gesamte KI-Budget für das Jahr aufgebraucht.

Gleichzeitig rekrutieren OpenAI und Anthropic in diesem Jahr aktiv Fachkräfte in den Kernbereichen von Startups wie Recht, Finanzen und Gesundheitswesen, veröffentlichen Plugins und erproben Branchenanwendungen, um direkt mit ihren Kundengruppen in Wettbewerb zu treten.

Die Abhängigkeit der Startups von Modellanbietern birgt ein weiteres Risiko: den Entzug des Zugriffs. Weniger als eine Woche nachdem SpaceX die Übernahme von Cursor abgeschlossen hatte, kündigte OpenAI an, den Zugriff auf das Modell für dieses Programmierwerkzeug-Startup auszusetzen, mit der Begründung, dass das Unternehmen von Musk in der Vergangenheit gegen die Nutzungsbedingungen verstoßen habe.

Vor diesem Hintergrund wurde auf einem Investorenforum im Büro von Anthropic speziell über den Trend diskutiert, dass Startups eigene Modelle erstellen. Anthropic gab an, dass Harvey nach wie vor auf das leistungsstärkste Modell Claude Opus von Anthropic angewiesen ist, um die komplexesten Aufgaben zu bearbeiten.

04

Praktische Herausforderungen des Open-Source-Pfades

Der Wechsel zu Open-Source-Gewichtsmodellen ist nicht ohne Kosten, dieser Weg ist ebenfalls voller Hindernisse.

Talente sind das größte Engpass. Matt Kraning, Partner bei Menlo Ventures, einem Investor von Anthropic, wies darauf hin, dass professionelle Ingenieure, die für die Feinabstimmung von Modellen geeignet sind, Jahresgehälter von mehreren Millionen US-Dollar erhalten und sehr leicht von großen Institutionen wie OpenAI und Anthropic abgeworben werden können.

Daten sind eine weitere Hürde. Für das selbst trainierte Modell des Unternehmens sind große Mengen an proprietären Daten erforderlich. Da Harvey keinen Zugriff auf die sensiblen Rechtsdokumente der Kunden hat, musste es Trainingsdaten vom KI-Datenanbieter Mercor erwerben.

Die Infrastrukturkosten von Open-Source-Modellen sind ebenfalls nicht zu vernachlässigen. Andrew Dai, CEO des visuellen KI-Startups Elorian, wies darauf hin, dass die Kosten für das Herunterladen von Open-Source-Gewichtsmodellen und die selbstständige Verwaltung der Recheninfrastruktur beträchtlich sind. Für junge Unternehmen mit geringem Datenverkehr kann die nutzungsabhängige Bezahlung von geschlossenen Modellen im Gegenzug wirtschaftlicher sein.

Darüber hinaus gibt es Unternehmen, die nach Versuchen scheiterten. Das Startup Salespeak kündigte zuvor Pläne zur Erstellung eines großen Sprachmodells an, gab diese Richtung jedoch nach monatelangen Erkundungen auf. Sein Mitbegründer und CEO Omer Gotlieb erklärte, dass er im Vergleich zu den fertigen Modellen von Anthropic und OpenAI keine "erheblichen Vorteile" erkennen konnte.

05

Abhängigkeit besteht fort, das Spiel geht weiter

Obwohl die Welle der Eigenentwicklung von Modellen stark ist, erwarten die meisten Startups nicht, sich vollständig von OpenAI und Anthropic zu lösen.

Logan Bartlett, Managing Director von Redpoint Ventures, der Anteile an Anthropic, Abridge und Ramp hält, erwartet, dass der Anreiz der Branche, die Abhängigkeit von Modellen von Anthropic zu verringern, weiter zunimmt. Er räumt jedoch ein, dass Startups bei Bedarf weiterhin für die beste Leistung bezahlen werden. "Sie werden sich nicht selbst ins Knie schießen, nur um ihren Ärger auszudrücken", sagte er.

Die Demonstrationsmaterialien von Anthropic bestätigen diese Realität – Harvey benötigt nach wie vor Claude Opus für die Bearbeitung der komplexesten Aufgaben, was zeigt, dass in der aktuellen Phase eine gemischte Nutzungsstrategie aus Open-Source- und geschlossenen Modellen die optimale Lösung für die meisten Startups sein könnte.

Dieses Spiel um Kosten und Kontrolle der KI ist im Wesentlichen ein Prozess, bei dem Startups auf der Anwendungsebene nach neuen Verhandlungsmöglichkeiten mit den Giganten auf der Modellebene suchen. Da die Leistung von Open-Source-Modellen stetig der von geschlossenen Produkten nahekommt, wird diese Spannung die Interessensgrenzen beider Seiten während des Börsengangsprozesses von OpenAI und Anthropic stetig auf die Probe stellen.

Dieser Artikel stammt aus dem WeChat-Öffentlichkeitsaccount "Wall Street News Max", Autor: Yang Chen, veröffentlicht mit Genehmigung von 36Kr.