Der nächste entscheidende Wendepunkt im Wettbewerb um KI-Agent-Smartphones liegt nicht bei großen Modellen.

In den letzten Monat war das am meisten beachtete Segment intelligenter Hardware zweifellos das Feld der KI-Agenten-Handys.

Zuerst veröffentlichte die Cyberspace-Verwaltung am 15. Juli erstmals eine Mitteilung über die Registrierung von 7 Diensten für generative künstliche Intelligenz, die auf mobilen Endgeräten bereitgestellt werden; anschließend während der Welt-KI-Konferenz (WAIC) waren die Ausstellungsstände für KI-Handys von StepVerse und ZTE Nubia voller Besucher, die alle sehen wollten, wie die Handys der Zukunft aussehen.

Quelle: Business Insight Simplified

Hinter den KI-Handys steckt eine Schlüsseltechnologie – die On-Device-KI. Sie ermöglicht es großen Modellen, direkt lokal auf dem Handy zu laufen, anstatt Daten zur Verarbeitung an Cloud-Server zu senden; Chatverläufe, Fotos und Dokumente müssen das Handy nicht verlassen, um von der KI verstanden und aufgerufen zu werden. Dies reduziert einerseits die Latenz und schützt andererseits die Privatsphäre.

„Business Insight Simplified“ stellt fest, dass StepVerse und Nubia zwar unterschiedliche technische Wege für ihre KI-Handys gewählt haben, aber die On-Device-KI bleibt die Richtung, auf die beide Marken und alle Handyhersteller in den nächsten Jahren den Fokus legen werden, um Durchbrüche zu erzielen.

01. KI-Handys können Aufgaben erledigen, aber nur wenige

Äußerlich betrachtet unterscheiden sich die beiden KI-Agenten-Handys von StepVerse und Nubia kaum von gewöhnlichen Smartphones.

Das „weltweit erste native KI-Agenten-Handy mit großem Modell“ STEPX Neo von StepVerse hat ein orange-schwarzes Design mit zwei hinteren Kameras. Das „weltweit erste serienmäßig hergestellte KI-Agenten-Handy“ NaviX Ultra von Nubia, auch bekannt als Doubao 2. Generation, ist in den vier Farben Blau, Rosa, Silber und Schwarz erhältlich und verfügt über ein flaches Display mit einer einzelnen Lochaussparung.

Honor präsentierte das „weltweit erste Roboter-Handy“ Robot Phone – es verfügt über einen eingebauten beweglichen mechanischen Gimbal, der per Geste aufgeweckt werden kann, Motive automatisch verfolgt und sich im Rhythmus von Musik bewegt; die gemeinsam von Alibaba und Honor auf Basis des „Qianwen Large Model“ entwickelte Agentenlösung ist auf diesem Gerät implementiert.

Interessanterweise geben alle drei Anbieter in ihrer Werbung an, dass ihr Produkt das „weltweit erste“ seiner Art sei.

StepVerse gibt zudem an, das weltweit erste native Agenten-Betriebssystem (Step AOS) selbst entwickelt zu haben, das keine tiefgreifende Anpassung von Android darstellt; seine Benutzeroberfläche (UI) unterscheidet sich jedoch kaum von der des Android-Systems: Es gibt nach wie vor ein Gitter aus App-Symbolen, die Apps haben abgerundete rechteckige Symbole in orange-gelben Farbtönen, nur die Symbole einiger Drittanbieter-Apps weichen geringfügig ab.

Quelle: Business Insight Simplified

Der am meisten beachtete Punkt bei KI-Agenten-Handys ist, ob sie die interaktive Methode des Klicks auf grafische Oberflächen durchbrechen können. Derzeit bieten die beiden Handys von StepVerse und Nubia kein neues entsprechendes Erlebnis. Laut Angaben der Mitarbeiter vor Ort sind die Verkaufsargumente der beiden Handys identisch mit denen des Doubao-Handys der ersten Generation, das zuvor den Markt aufgerüttelt hat: Beide senden über den Systemassistenten Text- oder Sprachanweisungen, um verschiedene Apps zur Ausführung von Aufgaben zu steuern.

Mitarbeiter von StepVerse erklärten, dass das STEPX Neo derzeit Aufgaben wie das Buchen von Tickets, das Bestellen von Lieferungen und das Bestellen von Taxis über den KI-Assistenten sowie das Bearbeiten von Dateien und das Beantworten von Nachrichten auf Feishu ausführen kann. Mit Ausnahme von Schritten, die personenbezogene Daten und Zahlungen betreffen und eine manuelle Autorisierung durch den Nutzer erfordern, werden alle anderen Schritte vom KI-Assistenten selbstständig erledigt.

Auf der Rückseite des StepVerse-Handys befindet sich jedoch ein zusätzlicher Interaktionsbildschirm (mit Punkt-Matrix-LED), der die Kombination von großem und kleinem Bildschirm ermöglicht und in Zukunft möglicherweise vielfältigere Interaktionsmethoden wie Sprache und Sehen unterstützen kann.

Die Mitarbeiter beider Handys gaben an, dass neben den bereits kooperierenden Apps alle anderen Apps auf dem Markt schrittweise integriert werden. Der Markteinführungszeitpunkt der beiden Handys ist noch nicht festgelegt, viele Details werden noch optimiert.

Quelle: Business Insight Simplified

Das bedeutet auch, dass das Nutzungserlebnis von KI-Handys in Zukunft vom Öffnungsgrad der großen Internetanwendungen abhängt.

Da das Doubao-Handy der ersten Generation den technischen Weg des „GUI Agent“ gewählt hat (der Klickoperationen des Nutzers simuliert), kann es Apps ohne Öffnungsgenehmigung beliebig aufrufen und ausführen. Aus Sicherheitsgründen wurde es jedoch von Anwendungen wie WeChat und Taobao blockiert. Wahrscheinlich aufgrund von Sicherheits- und Datenschutzkontroversen haben sowohl das StepVerse STEPX Neo als auch Nubia dieses Mal den Weg des „GUI Agent“ nicht gewählt. Laut Angaben der Mitarbeiter verfolgt das StepVerse STEPX Neo einen kombinierten Ansatz aus GUI Agent und A2A, während das Nubia NaviX Ultra ausschließlich auf dem A2A-Weg basiert.

Das Merkmal von A2A besteht darin, dass keine simulierten Nutzerklicks erforderlich sind, sondern die Fähigkeiten von Apps über Standardschnittstellen aufgerufen werden und die App die Ausführung selbst übernimmt. Dieser Ansatz wird auch von großen Hardwareherstellern wie Huawei, OPPO und Xiaomi gewählt, er ist sicherer und stabiler, hängt jedoch stark von der Freigabe der Berechtigungen durch die Apps ab.

Betrachtet man die derzeit mit den Handys kooperierenden Anwendungen, so sind nutzungsorientierte Apps wie Meituan und Ctrip relativ bereit, die KI auf den Handys zu integrieren – schließlich stammen ihre Haupteinnahmen aus Provisionen für Bestellungen und nicht aus Werbung. Bei häufiger genutzten sozialen Anwendungen wie WeChat, Douyin und Xiaohongshu, deren Haupteinnahmequelle Werbung ist, entspricht die Gewährung von Nutzungsberechtigungen fast der Preisgabe ihrer Lebensgrundlage (WeChat entwickelt sogar bereits einen eigenen KI-Agenten-Assistenten).

Ob eine Zusammenarbeit mit diesen häufig genutzten Anwendungen erreicht werden kann, wird direkt entscheiden, ob Agenten-Handys zu „nützlichen Werkzeugen“ oder „teuren Spielzeugen“ werden – dies ist auch die wichtigste Variable, die es in Zukunft weiter zu beobachten gilt.

02. Es gibt noch eine „Hardware-Hürde“ zu überwinden

„Business Insight Simplified“ stellt fest, dass neben der Frage „wie man es bedient“ die am häufigsten von Besuchern an den beiden Ausstellungsstellen gestellten Fragen die Effizienz der Aufgabenausführung und die Datensicherheit betreffen.

Die On-Device-KI gilt als Lösung für diese Probleme. Große Modelle wie Doubao und DeepSeek, die wir normalerweise im Webbrowser und in Apps nutzen, folgen dem Prinzip der Cloud-KI: Der Nutzer gibt eine Anweisung ab → Daten werden an den Cloud-Server übermittelt → das große Modell verarbeitet sie → das Ergebnis wird an das Handy zurückgesendet. Bei diesem Prozess laufen alle Chatverläufe, Fotos, Standortinformationen und Nutzungsgewohnheiten der Nutzer über Drittserver. Dies erhöht einerseits die Latenz und verlangsamt die Ausführungsgeschwindigkeit des Agenten, andererseits sorgen sich viele Nutzer darum, ob die Cloud-Anbieter ihre Daten missbrauchen, preisgeben oder langfristig speichern.

Das Prinzip der On-Device-KI ist völlig anders: Das große Modell wird direkt lokal auf dem Handy bereitgestellt, die Daten des Nutzers verlassen das Gerät von ihrer Entstehung bis zur Verarbeitung nicht, was Latenz und Datenschutzrisiken direkt reduziert.

Aufgrund von Hardware-Einschränkungen gibt es derzeit jedoch noch kein Handy, das große Modelle vollständig auf dem Endgerät ausführen kann. Alle Handyhersteller setzen derzeit auf die „Kollaboration von Endgerät und Cloud“: Einfache Gespräche werden lokal verarbeitet, komplexe Aufgaben mit langen Abläufen erfordern nach wie vor eine Verbindung zur Cloud.

Kürzlich veröffentlichte die Cyberspace-Verwaltung Registrierungsinformationen für 7 „Dienste für generative künstliche Intelligenz auf mobilen Endgeräten“, nämlich Apple, Huawei, OPPO, Vivo, Xiaomi, Samsung und Nubia (ZTE). Dies ist das erste Mal, dass die Regulierungsbehörde die Kategorie „KI auf mobilen Endgeräten“ als eigenständige Kategorie offenlegt, was von der Öffentlichkeit als Signal dafür gewertet wird, dass die Handybranche nun in die Phase der intensiven Entwicklung der On-Device-KI eintritt.

Quelle: Cyberspace Administration of China

Die Handyhersteller begannen 2023 mit der Entwicklung von On-Device-Modellen. Drei Jahre später haben die oben genannten registrierten Unternehmen nacheinander ihre neuesten Ergebnisse vorgestellt.

Diesen Juni stellte Apple auf der WWDC zwei On-Device-Modelle vor. Das AFM 3 Core Advanced hat insgesamt 20 Milliarden Parameter, aktiviert aber bei jeder Inferenz nur etwa 4 Milliarden, was Leistung und Effizienz kombiniert und hauptsächlich für grundlegende Textgenerierung und Befehlsverfolgung verwendet wird. Ebenfalls im ersten Halbjahr veröffentlichte Xiaomi die MiMo-V2-Serie mit insgesamt bis zu 1 Billion Parametern und 42 Milliarden aktivierten Parametern, die für komplexere Inferenzen, Textgenerierung und tiefgehende Gespräche verwendet werden können.

Die Größe der von verschiedenen Herstellern auf dem Endgerät bereitgestellten Modelle ist unterschiedlich, und die Probleme, die sie mit der On-Device-Lösung lösen wollen, sind ebenfalls verschieden. Li Dahai, CEO von FaceMind Intelligent, einem Unternehmen, das sich auf große On-Device-Modelle konzentriert, erklärte, dass man bei On-Device-Modellen nicht nur auf die Parametergröße oder die Punktzahl einer einzelnen Rangliste achten darf, sondern gleichzeitig Fähigkeit, Geschwindigkeit, Stromverbrauch und Speicherauslastung berücksichtigen muss.

Li Dahai fügte hinzu, dass Handyhersteller bei der Bewertung von On-Device-Modellen normalerweise die Anpassungsfähigkeit des Modells an den Chip und die Inferenzeffizienz des Modells prüfen. „Nutzer akzeptieren keine KI-Funktion, die zwar über starke Fähigkeiten verfügt, aber bei der Nutzung offensichtlich viel Strom verbraucht, sich stark erwärmt oder unzuverlässig reagiert. Wenn die Effekte ähnlich sind, hat derjenige einen Vorteil, der das Erlebnis mit geringerem Stromverbrauch und geringerer Latenz realisieren kann.“

Hardware ist eine Hürde für die On-Device-KI. Der Betrieb der On-Device-KI erfordert eine große Anzahl paralleler Berechnungen, aber die CPU und GPU im System-on-Chip (SoC) von Handys können die Anforderungen an die Rechenleistung der On-Device-KI kaum erfüllen – dafür wird meist ein speziell für KI-Inferenz entwickelter NPU benötigt.

Ein Investor, der sich auf Unterhaltungselektronik konzentriert, erklärte, dass das derzeit gängige Konzept für On-Device-KI-Chips darin besteht, den NPU im SoC zu integrieren, was sowohl Apple als auch Qualcomm verfolgen. In China gibt es mittlerweile zwanzig bis dreißig Unternehmen, die On-Device-KI-Chips entwickeln, und jedes verfolgt einen etwas anderen technischen Weg. In Zukunft könnte sich das Design von Handy-SOCs stark verändern: Der Kern wird nicht mehr die CPU sein, sondern der NPU, während CPU, GPU und verschiedene Beschleunigungseinheiten zusammenarbeiten.

Darüber hinaus stellt die On-Device-KI höhere Anforderungen an die Speicherbandbreite und den Speicherplatz des Handys. Am Beispiel von Apple können nur iPhone-15- und neuere Modelle mit einem A17-Chip oder neuer große Modelle auf dem Handy ausführen. Vor dem Hintergrund steigender Speicherpreise werden die Gesamtkosten von Handys in Zukunft voraussichtlich weiter steigen.

Insgesamt befinden sich KI-Handys noch in der Übergangsphase von „Gesprächen führen“ zu „Aufgaben erledigen“. Bevor sie von Nutzern häufig verwendet werden können, müssen noch zahlreiche Probleme gelöst werden: Die Mauern um Anwendungsberechtigungen, die Fähigkeiten der Modelle und die Rechenleistung der Chips behindern alle gemeinsam die weitere Entwicklung.

Auf lange Sicht gesehen erlebt die seit Jahren stagnierende Smartphone-Branche gerade eine neue Welle der Erneuerung – und der Gewinner dieser Runde ist nicht unbedingt der Gewinner der vorherigen Runde. Wenn Handys beginnen, Aufgaben selbstständig zu erledigen, wird nicht nur die Interaktionsmethode neu definiert, sondern auch die Machtverhältnisse im KI-Zeitalter.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Business Insight Simplified“, Autor: ZHANG Yuge, veröffentlicht mit Genehmigung von 36Kr.