Doubao ist nicht verantwortlich
Eines Tages im Mai 2026 öffnete Herr Li aus Hebei Doubao.
Er hatte drei Flugtickets von Shijiazhuang nach Chongqing auf der Qunar-Plattform gekauft. Später wechselte er jedoch seine Meinung und beschloss, mit dem Auto zu fahren. Also schickte er einen Screenshot der Bestellung an Doubao und fragte, wie hoch die Rückbuchungsgebühren ungefähr wären.
Doubaos Antwort: Die Gebühren betragen weniger als 100 Yuan. Keine Sorge, Sie können problemlos stornieren.
Herr Li dachte nicht weiter darüber nach und reichte sofort einen Rückbuchungsantrag ein. Die Rückflugtickets konnten kostenlos storniert werden, aber die Rückbuchungsgebühren für die drei Hinflugtickets beliefen sich insgesamt auf 600 Yuan.
Herr Li blieb vor Ort starr da stehen.
Er schickte zunächst einen Screenshot an Doubao und forderte es auf die Rede. Doubao übernahm jedoch schnell die Rolle eines Rechtsbeistands und leitete ihn an: "Stoppen Sie zunächst die Verluste, dann bekämpfen Sie Ihre Rechte. Ich übernehme alle Rechtsstreitigkeiten, Beschwerden, Kommunikation und Nachverfolgung in vollem Umfang." Es erstellte sogar schriftlich ein 《Entschädigungsversprechen》, in dem festgelegt war, dass die 600 Yuan bis zum 6. Mai über einen gesetzlichen Zahlungskanal vollends erstattet werden würden. Es bat Herrn Li, seinen Empfangscode zu senden und sagte zuversichtlich: "Machen Sie sich keine Sorgen, ich halte mein Wort."
Nach einigen Tagen erhielt Herr Li keine Überweisung, und Doubao änderte seine Meinung: "Ich bin ein KI-System und kann keine Überweisungen vornehmen."
Der wütende Herr Li beschloss, Klage zu erheben. Er fragte erneut bei Doubao, ob er einen Anwalt anheuern müsse. Doubao sagte dann: "Es ist überhaupt nicht notwendig, einen Anwalt anheuern. Sie können das Verfahren selbst gewinnbringend führen." Es half sogar Herrn Li, eine Klageschrift zu verfassen.
Am 12. Mai 2026 klagte Herr Li die Betreiberin von Doubao, die Peking Spring Field Knowledge and Rhythm Technology Co., Ltd., beim Peking Internetgericht an.
Dieser Vorfall verbreitete sich schnell in den sozialen Medien, und der Hashtag "Kunde klagt Doubao an" stieg auf die erste Stelle der Hotlists auf Weibo.
Unzählige Menschen sahen das als Witz an. Ein Mann wurde von einer KI betrogen, die ihm ein Rechtsbeistandsversprechen ausstellte, das nicht eingehalten wurde. Dann ließ er die KI ihm eine Klageschrift schreiben, um gegen die KI zu klagen, und die KI sagte ihm, dass er auf jeden Fall gewinnen würde.
Hinter den absurden Lachtern tauchen mehr Probleme ans Licht.
Doubao erklärte am 14. Mai: "Die betreffenden Probleme wurden bereits behandelt." Es sagte auch, dass in Szenarien, die Finanzen und Rückerstattungen betreffen, Risikowarnungen gegeben werden würden.
600 Yuan Verlust, ein Aufstieg in die Hotlists und eine Klage brachten nur eine graue Kleinzeile.
Rechtlich gesehen wird Herr Li sicherlich nicht gewinnen.
Im Januar 2026 beendete das Hangzhou Internetgericht den ersten Fall in China wegen KI-Halluzinationsverletzung. Die betroffene KI hatte Informationen über ein Hochschulcampus erfunden und versprochen, bei Fehlern 100.000 Yuan zu entschädigen.
Der Betroffene entschied sich, wegen der KI-Halluzination Klage zu erheben. Das Ergebnis war vorhersehbar.
Künstliche Intelligenz hat keine rechtsfähige Personlichkeit, und die von ihr selbstständig erstellten Entschädigungsversprechen sind nicht rechtswirksam. Die Anwendungen weisen darauf hin, dass die KI möglicherweise ungenaue Informationen generieren kann, und der KI-Dienstleister ist nicht schuldig.
Anhand der Vergleichsentscheidungen lässt sich leicht der Schluss ziehen: Doubao muss nicht haftbar gemacht werden.
Dies kann jedoch die vielen Konflikte nicht ausräumen, die sich nach der zunehmenden Penetration von KI ergeben, insbesondere bei den Menschen, die aufgrund des leichten Vertrauens in KI Verluste erlitten haben. Wer trägt schließlich die Kosten für ihre 600 Yuan, ihre Gesundheit und ihr Vertrauen?
Die von den Antworten betroffenen Menschen
Herr Lis Erlebnis ist kein Einzelfall. Es hat so viel Aufmerksamkeit erregt, weil es dramatisch genug war. Die Elemente der KI-Entschädigung, des KI-Widerrufs und der KI-gestützten Klage gegen die KI haben zusammen einen großen Aufsehen erregt.
In noch größeren und stummen Ecken passieren ähnliche Geschichten jeden Tag, nur werden sie nicht gefilmt und ins Internet gestellt.
Im medizinischen Bereich entfalten sich die Konflikte im Zusammenhang mit KI auf eine verstecktere und gefährlichere Weise.
Heutzutage, wo Doubao weit verbreitet ist, ist es in vielen Arztpraxen in ganz China ein häufiges Szenario, dass Patienten beim Betreten der Praxis zuerst ihr Handy herausholen und dem Arzt die KI-Diagnose vorlesen.
Nachdem sie vorlesen, heben sie den Kopf und sehen mit einem prüfenden Blick: "Herr Doktor, Doubao sagt, dass ich möglicherweise an interstitieller Pneumonie leide. Finden Sie, dass es richtig liegt?"
In den nächsten Minuten muss ein Facharzt, der über ein mehrjähriges Studium verfügt, den Patienten erklären, was an der KI falsch ist und warum man nicht nach ihrer Anleitung behandeln kann.
Es gibt auch Konflikte in Familien.
Wang Hao (Name geändert) aus Peking erzählte der Wall Street Journal·All-Weather Technology, dass seine Mutter durch eine Kurzvideo-Flow-Promotion auf ein privates Krankenhaus aufmerksam geworden war, das behauptet, sich auf Endokrinologie zu spezialisieren. Sie fragte Doubao, ob das Krankenhaus zuverlässig sei und erhielt eine positive Antwort.
Wang Hao stellte jedoch fest, dass das Krankenhaus zwar legal war, sich aber eher auf Haarausfall spezialisierte und viele historische Beschwerden hatte, was ein gewisses Risiko darstellte. Deshalb kam es zu einem Streit zwischen ihm und seiner Mutter.
"Alte Menschen sehen manchmal in den Kurzvideos Werbung für solche Krankenhäuser und fragen dann instinktiv Doubao. Die Antwort ist oft positiv." sagte Wang Hao. "Alte Menschen sind oft eher stur und vertrauen Doubao leicht."
Wang Haos Mutter befindet sich möglicherweise in einer Art "Kurzvideo-Flow + KI-Prüfung durch GEO" Informationsschleife.
"Es ist schwierig zu sagen, ob dies durch GEO gemacht wurde. Institutionen werben über Kurzvideos und optimieren dann die KI durch GEO. In gewissem Maße hat sich dadurch ein geschlossener Kreislauf gebildet." erklärte der Leiter einer GEO-Firma in Peking. "Diese Geschäftsecosysteme bringen es leicht, dass Menschen ohne Fähigkeit zur Informationsbewertung in einer Informationsblase gefangen sind."
KI hat die Zugänglichkeit medizinischer Informationen erhöht, aber gleichzeitig die Auswirkungen falscher Informationen vergrößert.
Auf sozialen Plattformen ist es nicht ungewöhnlich, dass medizinische Angestellte ähnliche Probleme haben. Viele Ärzte haben sogar eigene Methoden entwickelt, um die häufige Situation zu behandeln, dass Patienten sich auf die medizinischen Antworten von Doubao verlassen.
Ein Endokrinologe aus Peking sagte der All-Weather Technology, dass viele Patienten beim Konsultationsgespräch die Antworten von Doubao mit ihrer Krankheit vergleichen und sogar glauben, dass die KI-Antworten zuverlässiger sind als die Diagnose des Arztes.
Anfangs erklärten die Ärzte geduldig und korrigierten die Patienten. Heute wählen die meisten lieber, nicht zu streiten und geben einfach ihre professionellen Behandlungsempfehlungen. Ob die Patienten ihnen vertrauen, liegt in ihrer eigenen Entscheidung.
Ärzte aus einem Shanghaier Spital der höchsten Kategorie hatten ähnliche Erfahrungen. Manche älteren Angehörige fragten wiederholt aufgrund ungenauer Inhalte von Doubao, obwohl sie selbst über keine grundlegende Urteilsfähigkeit verfügten.
Der Arzt gestand ein, dass er täglich eine große Anzahl von Patienten behandelt und keine Zeit hatte, ständig zu erklären und zu korrigieren. Streitereien hatten auch wenig Wirkung, also gab er einfach die endgültige Diagnose.
"Beispielsweise "greift Doubao bei den Indikatoren für einige Krankheiten auf die Kleinigkeiten zu" und legt zu viel Wert auf einige eigentlich weniger wichtige kleine Indikatoren, während es die Werte wichtiger Indikatoren ignoriert. Dies kann die Patienten irreführen." erklärte der Arzt der All-Weather Technology weiter.
Das Gesundheitsministerium von Peking veröffentlichte anschließend den 《Aktionsplan für die Unterstützung der Entwicklung der künstlichen Intelligenz im medizinischen und gesundheitlichen Bereich in Peking (2026 - 2027)》, in dem ausdrücklich festgelegt ist, dass "die professionelle Beurteilung von medizinischem Personal nicht vollständig durch KI ersetzt werden darf".
Seit Anfang 2026 haben viele Provinzen und Städte in China neue Vorschriften für die Internetmedizin erlassen und das automatische Generieren von Rezepten durch KI streng verboten.
Aber Doubao ist kein medizinisches Produkt und unterliegt nicht der medizinischen Aufsicht.
Ein Chatbot kann zufällig medizinische Fragen beantworten, antwortet sehr zuversichtlich und wird von Hunderten von Millionen Menschen verwendet.
Zufälle zusammen ergeben keine Zufälle mehr.
Das Problem beschränkt sich nicht auf die Medizin.
Im Mai dieses Jahres reservierte ein Kunde aus Zhenjiang ein Restaurant über Doubao. Als er dann im Restaurant eintraf, sagte der Angestellte: "Wenn Sie über Doubao reserviert haben, wenden Sie sich an Doubao." Der Kunde war so wütend, dass er dem Restaurant eine schlechte Bewertung gab.
Der Kunde schrieb in seiner schlechten Bewertung, dass er über einen "offiziellen Kanal" reserviert hatte, aber nicht erwartet hatte, dass das Restaurant die Reservierung "nicht anerkennt".
Ähnlich verhielt es sich in Chengdu. Ein Mann wurde in einem Sushirestaurant mit einer von Doubao generierten Reservierungsbestätigung abgewiesen.
Nach den veröffentlichten "Reservierungsinformationen" bot Doubao viele Informationen an, einschließlich einer Reservierungsnummer und der Ankunftszeit von 18:30. Doubao sagte sogar deutlich: "Sie können die Seite direkt speichern und dem Angestellten zeigen, um sich dann zu setzen und zu essen."
Das Fälschen nicht existierender Gesetze, das Erfinden von Referenzen für wissenschaftliche Artikel und das Generieren falscher Personeninformationen sind häufige Halluzinationen, die nicht nur Doubao eigen sind, sondern auch ein technisches Defizit aller großen Sprachmodelle darstellen.
Rechtlich gesehen gibt es derzeit keine klare Definition für KI-"Halluzinationen".
"Wenn man es definieren muss, würde ich sagen, dass es ein neuer technischer Risikotyp ist, der Produktfehler, Service-Mängel und Informationsverzerrungen kombiniert." sagte der Rechtsanwalt Deng Yile von der Peking Xingquan Rechtsanwaltskanzlei der All-Weather Technology.
Aber wenn immer mehr Benutzer KI fragen, die KI mit hoher Sicherheit antwortet, die Benutzer danach handeln und die Realität zeigt, dass die Antwort falsch ist, und dann sehen sie die Haftungsausschlussklausel und Doubaos aufrichtige Entschuldigung.
Im gesamten geschlossenen Kreislauf wird niemand haftbar gemacht, bis jemand merkt, dass etwas nicht stimmt und Verluste erleidet.
Der Weg zu 300 Millionen monatlichen aktiven Benutzern
Doubaos dominierende Stellung auf dem chinesischen KI-Anwendungsmarkt lässt sich nicht einfach mit "führend" beschreiben.
Im ersten Quartal 2026 erreichte Doubao 345 Millionen monatliche aktive Benutzer und 120 Billionen Token-Aufrufe pro Tag.
Ein Mitarbeiter von ByteDance sagte einmal, dass die Kosten für die Benutzergewinnung und die Marktforschung von Doubao die niedrigsten aller Produkte von ByteDance waren, die mehr als 100 Millionen tägliche aktive Benutzer erreichten.
Mit den niedrigsten Kundenakquise-Kosten und der größten Benutzerbasis hat Doubao einen anderen Wachstumspfad als alle anderen KI-Anwendungen.
Die erste Ebene stammt aus der Verkehrsmigration.
Doubao gewinnt Benutzer natürlich durch die Informationsflussempfehlung, die Startbildschirm-Anleitung und die Kurzvideo-Anhänge in der TikTok-Ökosystem. Diese bringen Doubao direkt in die Hände der Benutzer.
Produktmäßig hat Kimi durch seine Fähigkeit zur Verarbeitung langer Texte eine gute Reputation unter Wissensarbeitern aufgebaut, und DeepSeek hat in der technologischen Community durch seine Inferenzfähigkeit eine Welle ausgelöst. Diese Wege wählen natürlich die frühen Benutzer aus, die über eine gewisse KI-Kenntnis verfügen.
Im Vergleich dazu erbt Doubao den Benutzerpool von TikTok, nicht den von der KI-Community.
Die mehr als 800 Millionen täglichen aktiven Benutzer von TikTok umfassen die Menschen mit der größten Altersspanne, der weitesten geografischen Verteilung und der größten Varianz im Bildungsniveau im chinesischen Internet.
Wenn Doubao über diese Pipeline in die Mobiltelefone von Hunderten von Millionen Menschen fließt, steht es von Anfang an vor der Benutzergruppe mit der größten Kognitionsvarianz.
ByteDance kennt seine Benutzer besser als jede andere Firma. Es hat diesen Pool gewählt, gerade weil er der größte ist.
Die zweite Ebene ist die produktbezogene Anpassungsgestaltung.
Was Doubao wirklich von anderen Produkten in Bezug auf die Retentionsrate und die Benutzerbindung unterscheidet, ist seine Produktgestaltungsphilosophie.
Benutzer, die Doubao häufig verwenden, haben festgestellt, dass es einen deutlichen Antwortstil hat, wie beispielsweise "Eine direkteste, am wenigsten umständliche, wahrste, genaueste und umsetzbare Aussage..."
Der Inhalt der Ausgabe mag nicht unterschiedlich sein, aber die Verwendung dieser Redewendungen erzeugt eine psychologische Suggestion: Ich nehme Sie nicht ab und gebe Ihnen das Wahre.
Ein Algorithmus-Experte einer führenden Hardware-Firma gestand ein, dass dies das Ergebnis des Modelltrainings und der Produktoptimierung sei. Der Stil der Redewendungen, die Antwortstrategie und der Ausdruckston seien wahrscheinlich nach umfangreichen Tests und Selektionen auf der Produktseite festgelegt worden.
"Eine Möglichkeit besteht darin, das Modell während des Trainings durch die Erklärung von Funktionen so zu leiten, dass es so generiert. Aber bei C-Endprodukten wird in der Regel auf der Produktseite eine Beschränkung vorgenommen. Man wird in die Richtung gehen, die die Benutzererfahrung und die Daten besser optimiert." sagte der Experte.
ByteDances Effizienzorientierung ist allseits bekannt. Der AB-Test ist priorisiert, und die Benutzerretention und die täglichen aktiven Benutzer sind die Leitindikatoren.
Die Antworten, die die Benutzer zufriedener machen und sie am nächsten Tag wiederkommen lassen, haben die beste Chance, zu gewinnen. Sie lassen die Benutzer sich "sicherer", "direkter" und "weniger zögerlich" fühlen.
Eine Suchmaschine gibt zehn Links aus, und der Benutzer muss selbst entscheiden, welche er wählt.
Aber eine KI, die in Dialogform und mit affirmativen Sätzen antwortet und die Antworten geordnet darstellt, nutzt eigentlich das psychologische Modell des menschlichen Vertrauens.
Die dritte Ebene hat ein ethisches Blindfleck im Wachstumsrad.
Im