Die limited Edition der Restart-Version des Doubao Handys wird nun angeboten. Es wurde zuvor berichtet, dass die Firma wegen einer Regulierungsabsprache geraten sei. Eine Person mit Kenntnis der Angelegenheit erklärte, dass es sich nicht um eine Absprache handele, sondern um einen kleinen Branchenaustausch.

Das Doubao-Handy, das aufgrund seiner fortschrittlichen KI-Funktionen schnell berühmt geworden ist, hat erneut eine begrenzte Anzahl von Kaufrechten freigegeben. Zuvor war es in Gerüchte verwickelt gewesen, dass es von den führenden Apps "umzingelt" und von den Behörden zu einer Besprechung aufgefordert worden sei.

Am 16. Dezember hat der ZTE-Online-Shop still und leise den Wartelistenkanal für die F-Codes (F-Code stammt aus dem Englischen "Friend" und ist ein Gutschein für die Vorzugskaufrechte, den die Handyhersteller für ihre Kernkunden anbieten) des Doubao KI-Handys geöffnet und damit die begrenzten Kaufrechte wiederhergestellt.

Zur gleichen Zeit hat ein Reporter der Time Weekly bemerkt, dass auf der zweiten-Hand-Handelsplattform Xianyu der höchste Preis für das Doubao KI-Handy schon auf erstaunliche 1 Million Yuan pro Stück gestiegen ist.

Dieses von ByteDance und ZTE gemeinsam entwickelte Handy, das mit dem Doubao-Assistenten ausgestattet ist, bietet hauptsächlich die Funktion "KI-Service": Die Nutzer müssen nur dem KI-Assistenten Anweisungen geben, und er kann automatisch Apps öffnen, Waren suchen, Bestellungen aufgeben und sogar das Spiel "Honor of Kings" spielen, Nachrichten senden und Videos anschauen.

Seit seiner Markteinführung am 1. Dezember hat das Doubao KI-Handy eine Kaufpanik ausgelöst. Das Modell, das ursprünglich für 3.499 Yuan verkauft wurde, wird auf dem zweiten-Hand-Markt für mehrere Zehntausend Yuan versteigert. Man kann sagen, dass es "ein Handy schwer zu bekommen und kein Angebot auf dem Markt" ist.

Allerdings wurde das Doubao KI-Handy nur drei Tage nach seiner Markteinführung von den führenden Apps wie WeChat, Meituan und Alipay "umzingelt". Am 3. Dezember haben WeChat, Alipay und andere Apps nacheinander die Betriebsberechtigungen des Doubao-Handy-Assistenten eingeschränkt. Die Nutzer können die entsprechenden Apps nicht mehr über dieses Handy bedienen.

Als ein Reporter der Time Weekly am 16. Dezember das Doubao KI-Handy getestet hat, hat er festgestellt, dass der Handy-Assistent keine Aktionen wie das Senden von WeChat-Nachrichten, das Versenden von roten Umschlägen oder das Bestellen von Lebensmitteln über Meituan ausführen kann. Das System gibt die Meldung "Aktion nicht ausführbar" aus. Nur wenige Apps wie JD.com können derzeit noch aufgerufen werden, um Aktionen wie das Bestellen von Lebensmitteln autonom auszuführen.

△Quelle: Screenshot eines Reporters der Time Weekly von Xianyu

Der Beginn und das Ende des "Umzingelns": Die "hohe Risiko"-Beurteilung der Apps

Tatsächlich ist die KI-Funktion, die das Handy bedienen kann, nicht nur beim Doubao KI-Handy vorhanden.

Seit 2024 haben Hersteller wie Honor, OPPO, vivo und Xiaomi nacheinander KI-Handys mit KI-Funktionen auf den Markt gebracht und jeweils ihre eigenen speziellen KI-Handy-Assistenten vorgestellt. Beispielsweise hat vivo den Lanxin XiaoV, Huawei hat Xiaoyi und Xiaomi hat Xiaoai Tongxue.

Im November 2024 hat die Zhipu AI auf ihrer Open Day die aktualisierte Fähigkeit des Intelligenten Agenten AutoGLM gezeigt. Die Hauptfunktion beinhaltet die "Anpassung an acht Apps wie WeChat und Taobao". Zhang Peng, Gründer und CEO von Zhipu, hat sogar AutoGLM direkt angewiesen, WeChat zu öffnen und 100 WeChat-Rote-Umschläge zu versenden.

Seitdem ist es fast zur Standardroutine bei Handy-Presskonferenzen geworden, dass der KI-Intelligente Agent bestimmte Apps autonom bedient oder Funktionen aufruft. Aber trotz der hohen Verbreitung der KI-Funktionen in Handys ist der Grund, warum das Doubao KI-Handy "umzingelt" wurde, dass es über systemweite KI-Aufrufberechtigungen verfügt, was die Plattformbetreiber wie Tencent und Alibaba hochgradig alarmiert hat.

Nach der Markteinführung des Doubao KI-Handys haben die führenden Apps wie WeChat und Alipay schnell reagiert und die Betriebsberechtigungen des Doubao-Handy-Assistenten eingeschränkt. Viele Nutzer haben festgestellt, dass WeChat sich automatisch abmeldet, wenn sie den Doubao-Assistenten verwenden.

Artikel 8.2 des "Lizenz- und Servicevertrags für die Tencent WeChat-Software" besagt eindeutig: "Die Nutzer dürfen nicht über nicht von Tencent entwickelte, autorisierte Drittanbieter-Software, Plugins, Cheats oder Systeme auf WeChat und seine Services zugreifen oder automatisierte Aktionen ausführen." Dies bedeutet, dass WeChat die automatisierten Aktionen des Doubao-Handy-Assistenten als "Cheat"-Verhalten einstuft.

ByteDance hat schnell geantwortet und am 3. Dezember eine Erklärung herausgegeben: Der Doubao-Handy-Assistent wird nicht für die Nutzer die entsprechenden Genehmigungen und sensible Aktionen ausführen. Darüber hinaus betont es, dass es beim autonomen Betrieb von WeChat keine Hackerangriffe gibt. Aber es hat keine Antwort auf die Frage gegeben, warum es von WeChat blockiert wurde, und ob und wann diese Funktion wiederhergestellt werden kann.

△Test des Doubao KI-Handys, Quelle: Foto eines Reporters der Time Weekly

Es ist nicht nur das Doubao KI-Handy, das die WeChat-Aufrufberechtigungen eingeschränkt hat. Am 16. Dezember hat ein Reporter der Time Weekly versucht, dem KI-Handy-Assistenten Lanxin XiaoV von vivo den Befehl "Schicke eine WeChat-Nachricht oder SMS an XXX" zu geben. Die Antwort war immer: "Diese Funktion hängt von Drittanbieter-Apps ab. Wir arbeiten aktiv mit den Drittanbieter-Apps zusammen, um die Funktionsanpassung voranzutreiben. Wir bitten um Verständnis für die Unannehmlichkeiten." Derzeit kann dieses Handy ebenfalls nur wenige Apps wie JD.com, Pinduoduo und Dianping aufrufen.

Nachdem dieser Wettlauf um die App-Berechtigungen begonnen hat, hat der Doubao-Handy-Assistent mehrmals Erklärungen herausgegeben.

Der Doubao-Handy-Assistent hat gesagt: "In einigen Szenarien werden die Fähigkeiten der KI, das Handy zu bedienen, normiert. " Er hat auch betont, dass es keine Systemberechtigungen gibt, die die Passwort- oder Gesichtserkennung oder andere ähnliche Authentifizierungsschritte überspringen können, während der Nutzer die Aktionen autorisiert. Der Doubao-Handy-Assistent verwendet die systemeigene Screenshot-Schnittstelle und kann keine geschützten Inhalte wie die Bank-Tastatur erfassen.

Am 13. Dezember gab es Marktspekulationen, dass ByteDance wegen Netzwerksicherheitsproblemen von den Behörden zu einer Besprechung aufgefordert wurde. Ein Insider in der Nähe von Byte hat einem Reporter der Time Weekly widersprochen und gesagt: "Es war keine offizielle Besprechung, sondern nur ein kleiner Branchenaustausch."

Im Gegensatz zu der vorherigen harten Nachfrage hat dieses Mal nur eine begrenzte Anzahl von Plätzen freigegeben und es gibt keinen Plan, die Produktion zu erhöhen. Die Plätze werden vorrangig an diejenigen vergeben, die noch kein Handy haben. Diejenigen, die bereits ein Handy gekauft, die Kaufoption abgelehnt oder das Handy zurückgegeben haben, können nicht erneut beantragen. Es ist nicht garantiert, dass man einen F-Code bekommt, wenn man sich auf die Warteliste setzt.

△Quelle: KI-Grafik eines Reporters der Time Weekly

Die Schwierigkeiten bei der Einhaltung der Vorschriften: Die Befürchtung vor der Unkontrollierbarkeit der KI-Handys

Im Vergleich zur vorherigen Verkaufsstrategie des Doubao KI-Handys ist die Regel für die Wiederaufnahme der Warteliste für die F-Codes deutlich vorsichtiger.

Früher wurde das Doubao KI-Handy in begrenzter Auflage über F-Codes verkauft, was zu einem sehr hohen Preis auf dem zweiten-Hand-Markt führte. Jetzt, indem nur eine begrenzte Anzahl von Plätzen freigegeben wird und es keinen Plan zur Produktionserhöhung gibt, scheint der Hersteller zu erkennen, dass die systemweiten KI-Berechtigungen mit Einhaltungsproblemen verbunden sind und er verfolgt eine "kleine Schritte vorwärts"-Strategie.

Derzeit steht ByteDance bei seiner Erkundung auf dem Gebiet der KI-Handys vor der doppelten Herausforderung von technischer Innovation und Einhaltung der Vorschriften der bestehenden Anwendungsökosysteme. Die "Umzingelung" des Doubao KI-Handys spiegeln die zentralen Einhaltungsprobleme der Edge-KI bei den Cross-App-Berechtigungen wider.

"Der ursprüngliche Zweck der uneingeschränkten Berechtigungen war es, behinderten Menschen (z. B. Sehbehinderten mit einer Screenreader-Funktion) und älteren Menschen (z. B. mit einer Funktion zur Verhinderung von Fehlbedienungen) zu helfen. Aber mit der technologischen Entwicklung ist diese Berechtigung zu einem globalen Steuerungstool für die KI geworden, das Cross-App-Leseverfahren und -Aktionen ermöglichen kann." sagte Peng Gen, der Geschäftsführer der Hanhua Feitian Information Security Technology Co., Ltd., einem Reporter der Time Weekly.

Aber der Missbrauch dieser Berechtigung könnte es der KI ermöglichen, die Sandbox-Isolationsmechanismen von Apps wie WeChat und Taobao zu umgehen und sensible Informationen wie Chatverläufe, Bestätigungscodes und Bankkontoinformationen zu lesen, was ähnlich wie ein "Gottessicht" ist.

Tian Junwei, ein Anwalt der Shandong Nayuan Law Firm, hat einem Reporter der Time Weekly darauf hingewiesen: "Der Missbrauch der KI-Berechtigungen birgt zwei Kernrisiken: Zahlungssicherheitsprobleme und die Offenlegung persönlicher Daten."

Angesichts des "Umzingelns" des Doubao KI-Handys sucht die Branche nach einem ausgewogenen Weg zwischen technischer Innovation und Ökosystem-Kompatibilität.

"Der Doubao-Handy-Assistent hat es den Nutzern so einfach gemacht, dass sie allmählich aufhören, die Berechtigungen zu überprüfen." sagte Wang Lei, ein Professor der Beijing Institute of Technology. "Im Zeitalter der KI steht das Prinzip des Mindestmaßes vor Herausforderungen."

Gao Limei, Dozentin an der Fakultät für Zivil-, Handels- und Wirtschaftsrecht der China University of Political Science and Law, hat vorgeschlagen: "Für die Anbieter von KI-Agenten sollte das Prinzip der vermuteten Verschuldung angewendet werden. Wenn es zu einer Offenlegung von Privatsphäre oder einem Vermögensverlust kommt, müssen die Anbieter beweisen, dass sie ihre Sorgfaltspflicht erfüllt haben. Andernfalls müssen sie die Verantwortung übernehmen."

Technisch gesehen hat Wang Yue, der stellvertretende Direktor des Instituts für Informationssysteme der Fakultät für Elektronik und Informationstechnik der Tsinghua-Universität, vorgeschlagen: "Für die KI-Agenten sollte eine unabhängige Identität und ein eigener Datenkanal eingerichtet werden, ähnlich wie wenn man für die KI einen Personalausweis ausstellt. Jede Aktion kann aufgezeichnet und zurückverfolgt werden."

Derzeit zeigen Apps wie Taobao und WeChat bei der Benutzeraktion einen Bestätigungscode an, um sicherzustellen, dass der Benutzer ein echter Mensch und nicht eine KI ist.

"Der KI-Aufruf von Apps könnte auch zu unlauterem Wettbewerb führen. Derzeit dienen die Aktionen der verschiedenen Apps nicht nur dem Schutz der Privatsphäre der Nutzer, sondern auch dem Schutz der Interessen der Plattform." hat Anwalt Tian Junwei einem Reporter der Time Weekly darauf hingewiesen.

Die Reihe von Problemen, denen das Doubao KI-Handy gegenübersteht, spiegeln die tiefgreifenden Konflikte zwischen der zukünftigen Anwendung der KI-Technologie und dem bestehenden Internet-Ökosystem wider. Einige Experten sind der Meinung, dass technologische Anwendungen immer mit Kontroversen verbunden sind. Erst wenn jede Aktion der KI nachvollziehbar ist, kann sie wirklich zu einem vertrauenswürdigen Lebensassistenten für die Nutzer werden.

Dieser Artikel stammt aus dem WeChat-Account "Time Weekly" (ID: timeweekly), Autor: He Shanshan, veröffentlicht von 36Kr mit Genehmigung.