Von Chinesen der Generation 2000+ entwickeltes „Local Muse“ wird im KI-Kreis des Silicon Valley heiß umworben, und sowohl a16z als auch Anthropic haben darin investiert.

Bericht von Zhidongxi vom 19. Oktober: Vor kurzem hat Conway Research‌, ein US-amerikanisches Startup für KI-Agenten, das erst vor 8 Monaten gegründet wurde, seinen ersten persönlichen KI-Assistenten Underdog vorgestellt und gleichzeitig bekannt gegeben, dass es Investitionen von einem Investitionskonsortium unter der Leitung von Anthropic, dem bekannten Silicon-Valley-Risikokapitalunternehmen a16z sowie verschiedenen Personen und Institutionen wie KI-Experten von Google, OpenAI und Hugging Face erhalten hat.

▲ Tweet von Sigil Wen, Gründer von Conway Research‌, zur Bekanntgabe der Finanzierung (Quelle: X)

Das Unternehmen bezeichnet Underdog als „bislang datenschutzfreundlichsten Konkurrenten von Muse“.

Am 8. September veröffentlichte Meta den persönlichen KI-Assistenten Muse, der nach nur 10 Tagen nach der Veröffentlichung ChatGPT überholte und die Spitze der Gesamtrangliste der kostenlosen Anwendungen im US-amerikanischen App Store erreichte. Muse kann Ziele von Nutzern selbstständig aufschlüsseln und Aufgaben ausführen, es deckt viele Szenarien wie Arbeit, Alltag und Konsum ab. Jeder Nutzer verfügt über eine unabhängige virtuelle Maschine in der Cloud, die Aufgaben im Hintergrund kontinuierlich ausführen kann.

Diese Welle verbreitete sich rasch: OpenAI veröffentlichte das neue Generation von KI-Agentenprodukt Dot, Elon Musk brachte Grok Bot auf den Markt, Manus stellte die Version 2.0 vor, und es wurde auch bekannt, dass inländische Unternehmen wie ByteDance, Tencent, Ant Group und Alibaba ähnliche Produkte entwickeln.

Underdog hat ähnliche Funktionen wie Produkte wie Muse, die Nutzern bei der Erledigung von Aufgaben im Alltag und bei der Arbeit helfen. Der größte Unterschied besteht darin, dass Underdog vollständig auf dem Gerät des Nutzers läuft und auch offline betrieben werden kann.

▲ Demonstration der automatischen Terminplanung von Underdog (Quelle: Conway Research‌)

Conway Research‌ wurde im Februar dieses Jahres gegründet, sein zentraler Forschungsschwerpunkt ist das selbstständig laufende KI-Agent-Framework. Derzeit befindet sich dieses von Conway veröffentlichte Produkt noch in der Einladungstestphase und wurde noch nicht öffentlich veröffentlicht.

Der Gründer des Unternehmens ist Sigil Wen, ein selbstlernendes KI-Talent aus dem Silicon Valley der Generation 2000, der die Universität vor Abschluss verlassen hat. Er wurde in Toronto geboren. Als er mit 17 Jahren gerade ins Silicon Valley gezogen war, lebte er 11 Monate lang eng mit einer Gruppe später berühmter KI-Gründer zusammen, darunter der KI-Experte Andrej Karpathy sowie die Mitbegründer von Midjourney und Anthropic. Bereits 2021 hat er die Prototypen von Midjourney und Claude ausprobiert.

▲ Sigil Wen (Quelle: TechCrunch)

Sigil Wen erlangte auf der sozialen Plattform X große Berühmtheit, nachdem er GPT-2 auf der Apple Watch zum Laufen gebracht und den ersten KI-Automaton vorgestellt hatte, der selbstständig überleben, sich weiterentwickeln und ohne menschliches Eingreifen replizieren kann.

Womit hat dieses aufstrebende KI-Unternehmen die Unterstützung der Top-Experten im Silicon Valley gewonnen, und was ist an seiner Lösung für Agenten anders? Wir versuchen, die Antworten auf diese Fragen zu finden.

01. Vollständig lokal ausgeführt, kann Ihnen beim Abrufen von E-Mails, Generieren von Bildern und Verarbeiten von Sitzungsprotokollen helfen

Das Kernmerkmal von Underdog ist, dass es vollständig auf dem Gerät des Nutzers ausgeführt werden kann. Das bedeutet, dass Daten nur lokal gespeichert werden und es dem Nutzer auch im Offline-Zustand bei der Entscheidungsfindung helfen kann.

Für dieses Produkt ist derzeit eine Testversion für Mac- und Windows-Computer verfügbar, in Zukunft werden Versionen für Linux, iOS und Android veröffentlicht. Es kann direkt auf Mac ausgeführt werden, die E-Mails und Kalender des Nutzers verbinden und Aufgaben wie das Anzeigen von E-Mails, Terminplanung, Verarbeiten von Sitzungsprotokollen, Spracheingabe, Online-Erledigungen und private iMessage-Aufgaben erledigen.

Seit seiner Veröffentlichung werden die Funktionen von Underdog schrittweise aktualisiert, darunter lokale Bildgenerierungs- und Bearbeitungsfunktionen, lokale Agent-Zahlungen in Zusammenarbeit mit Stripe und die Ein-Klick-Importfunktion für Sitzungsprotokolle.

Am 12. Oktober wurde die lokale kostenlose Bildgenerierungs- und Bearbeitungsfunktion veröffentlicht, die auf Qwen-Image Flash und Qwen-Image-2.1-Turbo basiert.

Gemäß der offiziellen Demonstration kann Underdog Images Bilder nach den natürlichen Sprachanforderungen des Nutzers erstellen, es unterstützt auch die Generierung anhand von Referenzbildern, lokale Änderungen und das Ändern des Hintergrunds.

Am selben Tag veröffentlichte Underdog die Funktion zum Ein-Klick-Import von Sitzungsprotokollen, wobei die relevanten Inhalte nicht an irgendeinen Server hochgeladen werden. Nach Ende des Anrufs können sofort Zusammenfassungen, Beschlüsse und Maßnahmen generiert werden.

Am 14. Oktober arbeitete Underdog mit Stripe zusammen und führte die erste geräteseitige Agent-Zahlungsfunktion ein. Im lokalen Browser kann Underdog eine Einweg-Link-Karte mit dem genauen zu zahlenden Betrag abrufen und auf die Zahlungsautorisierung durch den Nutzer warten.

Darüber hinaus gab das Unternehmen bekannt, dass es auch Fähigkeiten erforscht, bei denen der Agent direkt für den Nutzer einkauft. Es hofft, solche lokalen KIs schrittweise zu persönlichen Agenten zu machen, die langfristig den persönlichen Kontext beherrschen und direkt für den Nutzer handeln.

02. Auf dem feinabgestimmten Modell Qwen3.8 27B basierend, der dedizierte Inferenzmotor ist 4,5 Mal schneller als MLX

Gemäß offiziellen Angaben verdankt Underdog seine Leistungsvorteile zwei wichtigen Stützen: einem leichteren und intelligenteren Modell sowie dem dedizierten Inferenzmotor Husky.

Schauen wir uns zuerst das Modell an: Hinter Underdog stehen das schnellere Woof 4B und das intelligentere Saluki 27B. Saluki 27B ist quelloffen.

Davon ist Saluki 27B auf Basis von Qwen3.8 27B entwickelt. Laut offiziellen Daten beträgt das Gewichtsvolumen dieses Modells 1/7 der Version mit voller Genauigkeit, behält aber gleichzeitig 96 % der Leistung bei und ist bei Funktionsaufrufen dem Qwen-Modell überlegen.

Sigil Wen enthüllte in einem Interview mit dem ausländischen Medium TechCrunch, dass dieses Modell alltägliche Aufgaben erledigen kann, die man von einem KI-Assistenten erwartet, wie beispielsweise Einkaufsrecherchen oder die Lösung von Mathematikhausaufgaben. Er gab an, dass die Kosten so niedrig sind, dass keine Abonnementgebühren für den Betrieb von Underdog erhoben werden müssen.

Die zweite wichtige Stütze ist der für Underdog entwickelte Inferenzmotor Husky, der der Schlüssel dafür ist, dass die Anwendung auf lokalen Geräten ausgeführt werden kann.

Laut offiziellen Daten kann Woof 4B auf dem MacBook nach Aktivierung von Husky Flash maximal 730 Token pro Sekunde verarbeiten, was 4,5 Mal schneller ist als Apples quelloffenes maschinelles Lernframework MLX. Bei gleichem Gewicht wird die Antwortgeschwindigkeit um das 5-fache verbessert.

Sein Team verglich Husky und MLX in 16 Szenarien mit verschiedenen Prompts. Die Ergebnisse zeigten, dass Husky in allen Tests einen Geschwindigkeitsvorteil hat.

Das liegt daran, dass Husky bei der Ausführung von Bildbearbeitungsschritten 8 Token parallel prüft, wobei der Aufwand das 1,5-fache eines einzelnen Tokens beträgt, und der größte Teil des Antwortinhalts bereits im Kontext des Prompts enthalten ist. Der Geschwindigkeitsvorteil bei der Textgenerierung stammt aus der Pipeline-Steuerung: Während der aktuelle Schritt ausgeführt wird, wird der nächste Schritt bereits kodiert und übermittelt, sodass die GPU nicht auf den Host warten muss.

Sigil Wen gab an, dass dieser Motor im Vergleich zu ähnlichen geräteseitigen Motoren eine geringere Datenmenge zwischen dem Hauptprozessor des Computers und dem Grafikchip überträgt.

Neben den technischen Vorteilen ist auch das frühe Kommerzialisierungsmodell von Underdog besonders.

Sigil Wen enthüllte, dass Underdog in der Anfangsphase kostenlos ist und niemals Werbung schalten wird. Eine der Einnahmequellen besteht darin, dass sie einen kleinen Anteil von jeder Transaktion erhalten, die der KI-Assistent über die sichere Zahlungsinfrastruktur von Stripe abschließt, ein ähnliches Modell wie die Kreditkarten-Austauschgebühr. Bei diesem Geschäftsmodell muss der KI-Assistent keine Nutzerdaten erfassen oder auswerten.

Diese Vorgehensweise unterscheidet sich stark von anderen Anbietern persönlicher KI-Assistenten: Normalerweise erlauben Unternehmen das Sammeln von Nutzerdaten, um diese dann an Werbetreibende zu verkaufen oder zum Trainieren anderer Modelle zu verwenden.

03. Die Generation 2000, die die Universität vor Abschluss verließ und selbstlernend ist, ist in den Kreis der Top-KI-Experten eingetreten

Obwohl der genaue Betrag nicht bekannt gegeben wurde, ist das Investorenaufgebot von Conway Research‌ sehr hochkarätig.

Neben dem Investitionskonsortium Anthology aus dem führenden Silicon-Valley-Risikokapitalgeber a16z, Anthropic und Menlo Ventures gibt es eine Reihe von markanten Persönlichkeiten aus dem KI-Bereich.

Dazu gehören Patrick Collison, Mitbegründer von Stripe, Guillermo Rauch, Gründer von Vercel, Noam Brown, Forscher bei OpenAI, der als „Vater der KI-Inferenz“ bekannt ist, der bekannte OpenAI-Forscher Roon, Thom Wolf, Mitbegründer von Hugging Face, sowie Logan Kilpatrick, Senior Product Manager bei Google DeepMind.

Und im Kommentarbereich von Sigil Wen sind Glückwünsche von a16