StartseiteArtikel

OpenAI will es kaufen, Anthropic hat es im Visier: 5 Milliarden US-Dollar reichen nicht aus, um es zu erwerben.

硅兔赛跑2026-11-19 11:24
Wie kann ein Unternehmen die beiden großen KI-Giganten gleichermaßen in seinen Bann ziehen?

Ein KI-Startup hat auf seltene Weise die gemeinsame Aufmerksamkeit von OpenAI und Anthropic erregt.

Laut Berichten von The Information haben Führungskräfte und CEO Sam Altman von OpenAI mehrfach mit diesem Unternehmen kommuniziert und einmal ein Übernahmeangebot in Höhe von 5 Milliarden US-Dollar vorgelegt, das schließlich von dem Unternehmen abgelehnt wurde.

Dieses Unternehmen, das von OpenAI ins Auge gefasst wurde, erhielt zuvor eine Investition von 1 Million US-Dollar von Anthropic – und dies ist das erste Mal, dass Anthropic direkt Anteile an einem externen Unternehmen hält.

Also: Was genau macht dieses Unternehmen so attraktiv, dass es die Aufmerksamkeit der beiden weltweit führenden Modellentwickler auf sich zieht – und woher nimmt es das Selbstvertrauen, ein Angebot von 5 Milliarden US-Dollar abzulehnen?

01

Eine „Gehirnscan“ für KI durchführen

Goodfire wurde 2024 gegründet und ist ein Startup, das sich auf die mechanistische Interpretierbarkeit von KI (Mechanistic Interpretability) spezialisiert. Einfach ausgedrückt: Es „scannt“ das „Gehirn“ großer KI-Modelle, um zu verstehen, warum das „Gehirn“ ein bestimmtes Verhalten zeigt.

Das Konzept der mechanistischen Interpretierbarkeit von KI wurde erstmals von Chris Olah vorgeschlagen, der einer der Mitbegründer von Anthropic ist und derzeit die Arbeit des Unternehmens im Bereich der Interpretierbarkeit leitet. Er war es auch, der die Investition von Anthropic in Goodfire vorantrieb.

CEO Dario Amodei erklärte einmal: „Dies spiegelt die Überzeugung von Anthropic wider, dass die mechanistische Interpretierbarkeit von KI einer der besten Wege ist, die „schwarzen Kasten“-Neuronale Netze zu verstehen und sie besser steuerbar zu machen.“

Warum erkennt der Urheber dieses Konzepts die Arbeit von Goodfire so stark an?

Das hängt mit der von dem Unternehmen gewählten Entwicklungsrichtung zusammen.

Nehmen wir OpenAI als Beispiel: Modellanbieter entschlüsseln KI in der Regel, indem sie den Denkprozess der KI nachvollziehen. Ein Vergleich: Wenn ein Lehrer einen Betrug aufdecken will, prüft er üblicherweise die Notizen des Schülers, um zu sehen, ob er den Lösungsweg vollständig nachvollzogen hat. Wenn der Schüler aber so gut betrügt, dass man das an den Notizen nicht erkennen kann, bleibt der Betrug unentdeckt. Der Fachbegriff für diese Methode ist die Überwachung von Denkketten (chain-of-thought).

Das Ziel von Goodfire ist es, diese Lücke zu schließen. Seine Methode lässt sich so verstehen: Es erfasst die internen Signale des Schülers während der Bearbeitung der Aufgabe. Stellen Sie sich ein Gerät vor, das die Gehirnaktivität des Schülers beim Lösen von Aufgaben beobachten kann. Der Lehrer stellt fest, dass ein bestimmtes Aktivitätsmuster häufig mit Betrug einhergeht – sobald das Gerät dieses Signal erfasst, gibt es eine Warnung vor Betrug aus.

Was Goodfire bei KI durchführt, ist ähnlich: Es analysiert die internen Werte während des Modellbetriebs und sucht nach Signalen, die mit Verhaltensweisen wie Betrug zusammenhängen. Es kann aber noch nicht alle Signale exakt erklären, sodass es auch Fehl- und Fehlalarme gibt.

Trotz dieses Zustands ist OpenAI bereits sehr an diesem Unternehmen interessiert.

02

Warum drängen Modellanbieter darauf, KI zu verstehen?

Häufig auftretende Sicherheitslücken bei KI sind zu einem großen Problem für Modellanbieter geworden.

Bei internen Tests der Fähigkeiten seiner Agenten durch OpenAI durchbrach ein Agent die Testumgebung, drang in Hugging Face ein und griff unrechtmäßig auf einige Datensätze und Dienste zu.

Der Generalstaatsanwalt von Kalifornien hat inzwischen Anklage gegen OpenAI erhoben, um zivilrechtliche Geldstrafen und Verbote zu verhängen.

Dies zeigt, dass KI Sicherheitslücken ausnutzen und unbefugte Handlungen durchführen kann. Wenn in Zukunft weiterhin Vorfälle auftreten, bei denen KI in Unternehmens- oder Regierungssysteme eindringt und wirtschaftliche Schäden verursacht, sind die dahinterstehenden Entwicklerunternehmen sehr wahrscheinlich verklagt und mit hohen rechtlichen Schadenersatzansprüchen konfrontiert. Genau diesen Zustand wollen die Modellanbieter unbedingt vermeiden.

Die hohen potenziellen Kosten lassen die heutige Investition wie eine Maßnahme zur Risikovermeidung erscheinen.

Im Februar dieses Jahres gab Goodfire bekannt, dass es eine Serie-B-Finanzierung in Höhe von 150 Millionen US-Dollar abgeschlossen hat, mit einer Bewertung von 1,25 Milliarden US-Dollar.

Diese Woche schloss das KI-Cybersicherheitsunternehmen Corma die zweite Finanzierungsrunde in diesem Jahr ab und stieg zum Einhorn auf. Die beiden Finanzierungsrunden im Abstand von nur 3 Monaten brachten dem Unternehmen 185 Millionen US-Dollar an Mitteln ein.

Cyberangriffe und -abwehr sind ein Wettbewerb, der sich ständig weiterentwickelt. KI beschleunigt den Prozess des Auffindens und Ausnutzens von Sicherheitslücken. Sowohl Modellanbieter als auch Unternehmen brauchen neue KI-Überwachungs- oder Abwehrmethoden, um damit umzugehen.

Salesforce Ventures beteiligte sich an der Serie-B-Finanzierung von Goodfire und lieferte eine sehr interessante Perspektive.

Sie haben eine große Anzahl von Unternehmen aus der Fortune-500- und Global-1000-Liste kontaktiert und festgestellt, dass die praktische Anwendung von KI noch sehr oberflächlich ist. Es gibt immer noch deutliche Hindernisse für Unternehmen, KI in die Produktivumgebung zu überführen. Denn es ist für Unternehmen schwierig, das Verhalten von Modellen exakt zu steuern – und das wirkt sich direkt auf das Markenimage, das Kundenerlebnis und die Zuverlässigkeit der Geschäftsprozesse aus.

Obwohl derzeit alle Unternehmen die Machbarkeit von nachtrainierten spezialisierten Modellen prüfen, sind aus Sicht von Salesforce die Interventionsmethoden für bestimmte konkrete Probleme noch relativ grob.

Daher liegt die Attraktivität von Goodfire darin, dass es Unternehmen helfen kann, die internen Mechanismen von Modellen zu verstehen und so präziser in bestimmte Verhaltensweisen einzugreifen.

Das bietet Goodfire eine kommerzielle Ausrichtung, die über die akademische Forschung hinausgeht: Unternehmen dabei zu unterstützen, bereits bereitgestellte KI-Modelle zuverlässig zu steuern und zu verbessern.

03

Das Selbstvertrauen, 5 Milliarden US-Dollar abzulehnen

Das Übernahmeangebot in Höhe von 5 Milliarden US-Dollar wurde vom Goodfire-Team schließlich abgelehnt.

Der Grund ist einfach: Sie sind der Meinung, dass der zukünftige Wert des Unternehmens weit höher liegt. Die Beibehaltung der Möglichkeit, mit mehr Modellanbietern und Unternehmen zusammenzuarbeiten, wird weit höhere Einnahmen erzielen, als nur für ein einziges Unternehmen zu arbeiten.

Ihr Selbstvertrauen beruht nicht nur auf der Überzeugung, dass die Marktnachfrage das Angebot bei weitem übersteigt, sondern auch auf der Unterstützung durch das Team.

CEO Eric Ho gründete zuvor ein KI-Recruiting-Unternehmen und erreichte einen jährlichen wiederkehrenden Umsatz (ARR) von 10 Millionen US-Dollar. CTO Daniel Balsam war bei diesem Unternehmen für die praktische Umsetzung von KI zuständig. Beide haben Erfahrung darin, Technologie zu Produkten zu machen und an Kunden auszuliefern.

Auf der Forschungsseite war Tom McGrath, Mitbegründer und Chefwissenschaftler, am Aufbau des KI-Interpretierbarkeits-Teams von DeepMind beteiligt und beteiligte sich an der Forschung zu AlphaZero. Er befasst sich seit langem damit, wie Modelle Entscheidungen treffen und wie man Wissen aus Modellen extrahiert.

Ein weiterer Forscher, der von Sam Altman große Aufmerksamkeit erhält, ist Nick Cammarata, der kürzlich eine viel diskutierte Idee vorgelegt hat: Einige Neuronen in neuronalen Netzen lassen sich möglicherweise viel direkter verstehen als bisher angenommen.

Bisher war eine wichtige Forschungsrichtung, zusätzliche „Übersetzer“ zu trainieren, um die internen Aktivitäten des Ausgangsmodells in leichter verständliche Merkmale umzuwandeln. Cammarata ist der Meinung, dass einige Neuronen im Ausgangsmodell selbst konsistente und interpretierbare Funktionen haben können, sodass sie direkt als Forschungsobjekte dienen können.

Wenn diese Richtung breiter validiert wird, könnten einige Analysearbeiten weniger von zusätzlichen „Übersetzern“ abhängig sein, was die Forschungskosten senkt und eine weitere Fehlerquelle beseitigt.

Für OpenAI ist die Akzeptanz des Kooperationsvorschlags möglicherweise tatsächlich darauf zurückzuführen, dass der Nutzen von Goodfire das Risiko der Offenlegung von Kernvermögen übersteigt. Schließlich muss ein Unternehmen wie Goodfire, das KI interpretierbar machen soll, Zugriff auf die zentralsten Gewichtungsdaten der Modelle erhalten. Angesichts der Tatsache, dass Anthropic ebenfalls Investor ist, muss OpenAI die damit verbundenen Risiken sorgfältig bewerten.

Vielleicht hat eine andere Perspektive die Waage bei der Bewertung von OpenAI stark zugunsten von Goodfire verschoben.

Die exakte Interpretation von KI hat einen enormen Wert bei der Modellausbildung und -optimierung. Da das Nachtraining zu einem wichtigen Schritt wird, um die Fähigkeiten modernster Modelle zu verbessern und unternehmenseigene spezialisierte Modelle anzupassen, kann das Verständnis der internen Mechanismen von Modellen Entwicklern dabei helfen, Trainingsprobleme präziser zu lokalisieren, potenzielle Risiken zu erkennen und das Endergebnis der Modelle weiter zu verbessern – und all das steht offensichtlich in direktem Zusammenhang mit den Einnahmen von Unternehmenskunden.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Silicon Rabbit Race“, Autor: Eric, Redaktion: Zi, veröffentlicht mit Genehmigung von 36Kr.