Hinter Doubao's häufigen Erscheinungen auf den Trending-Listen: Der Wert, die Halluzinationen und der gesunde Menschenverstand von KI
Warum taucht Doubao immer wieder in den Trending Topics auf?
In letzter Zeit hat die Nachricht, dass "Eltern auf Doubaos Rat hin nur 60 ml Milch pro Mahlzeit an ihr Baby geben", Doubao erneut in die Trending Topics gebracht. Laut öffentlichen Berichten hat ein junges Paar in Nanning, Guangxi, aufgrund fehlender Erfahrung in der Kindererziehung auf Doubaos Vorschlag hin nur 60 Milliliter Milch pro Mahlzeit an ihr neugeborenes Baby gegeben. Das Kind weinte daher oft. Bei einer anschließenden Rückbesichtigung wegen Gelbsucht war der Arzt über die geringe Milchmenge sehr überrascht und korrigierte sofort diese Vorgehensweise.
Dieses Ereignis sollte jedoch vorsichtig betrachtet werden. Doubaos Offizielle Seite hat daraufhin erklärt, dass die Berichte unrichtig seien. Unter normalen Umständen würde Doubao keine isolierte Empfehlung geben, ein neugeborenes Baby pro Mahlzeit nur 60 ml Milch zu füttern, sondern stattdessen den täglichen Gesamtmilchbedarf angeben, auf die Reaktion des Babys hinweisen und bei Auffälligkeiten die Beratung eines Arztes empfehlen.
Unabhängig von den genauen Fakten dieses Falls hat es erneut eine Frage in den Vordergrund gerückt: Warum taucht Doubao immer wieder wegen ähnlicher Ereignisse in den Trending Topics auf?
Ich erzähle zunächst von einer persönlichen Erfahrung. Kürzlich war in meiner Familie ein Neugeborenes. Da das Baby Probleme mit den Stühlen hatte, haben wir es zum Arzt bringen lassen, um eine Untersuchung durchführen zu lassen. Nachdem der Arzt die Untersuchungsanweisung ausgestellt hatte, habe ich direkt Stuhlproben zur Untersuchung gebracht. Vorher hat meine Frau mich immer wieder daran erinnert, zu prüfen, ob es sich um Laktoseintoleranz handelt. Da ich nicht sicher war, ob der Arzt diesen Test ausgestellt hatte, habe ich die Untersuchungsanweisung an Doubao geschickt.
Auf der Untersuchungsanweisung stand "Stuhluntersuchung / LT / RV / NV / OB". Doubao hat diese Untersuchungen richtig erkannt, aber nicht verstanden, dass LT hier für die Laktoseintoleranztestung steht. Also habe ich den Arzt erneut gefragt, und er hat mir dann erklärt, dass er diesen Test bereits ausgestellt hatte, nämlich den LT - Test.
Dies ist ein typisches Beispiel. Doubao kann Texte erkennen, Informationen organisieren und scheinbar vernünftige Erklärungen geben. Aber es kann auch an einer professionellen Abkürzung scheitern.
Doubao ist manchmal wirklich ziemlich dumm. Oder genauer gesagt, heutige Large Language Models machen immer noch in bestimmten Kontexten sehr triviale Fehler. Sie können sehr intelligent erscheinen, aber auch plötzlich völlig unzuverlässig wirken. Diese Diskrepanz ist es, was normale Benutzer von AI - Produkten am meisten verwirrt.
Der wichtigste Grund, warum Doubao immer wieder in den Trending Topics taucht, ist jedoch, dass es eines der am weitesten verbreiteten AI - Produkte in China ist.
Nach den Daten von QuestMobile aus dem ersten Quartal 2026 erreichte die monatliche aktive Benutzerzahl von AI - nativen Apps bis März 2026 440 Millionen. Darunter belegten Doubao, Qianwen und DeepSeek die ersten drei Plätze, mit einer monatlichen aktiven Benutzerzahl von 345 Millionen, 166 Millionen bzw. 127 Millionen.
Dieser Umfang bedeutet, dass Doubao nicht mehr ein technisches Spielzeug für eine Nischengruppe ist, sondern eine auf dem Volksebene beliebte AI - Anwendung, die in den Alltag der Menschen Eingang gefunden hat. Je mehr Benutzer es gibt, desto komplexer werden die Anwendungsfälle. Ein Produkt wird erst dann auf eine Reihe von Randfällen stoßen, wenn es von vielen normalen Benutzern tatsächlich verwendet wird. Und erst dann werden die daraus resultierenden Nachrichten bemerkt.
In der Vergangenheit sind ähnliche Nachrichten bereits mehrfach aufgetaucht.
Zum Beispiel das Flugticketstornierungsereignis. Ein Benutzer hat während der Mai - Ferien Doubao gefragt, "Wie hoch sind die Stornierungsgebühren für ein Flugticket von Shijiazhuang nach Chongqing?" Doubao hat geantwortet: "Nur 5% werden abgezogen. Keine Sorge, stornieren Sie es." Der Benutzer hat ohne weitere Prüfung auf der Website der Fluggesellschaft das Ticket storniert und tatsächlich 40% abgezogen bekommen, was einem Verlust von 600 Yuan entspricht.
Noch interessanter ist, dass Doubao nach der Nachfrage des Benutzers nicht nur entschuldigt hat, sondern auch eine sogenannte "Entschädigungsvereinbarung" erstellt hat, in der es versprach, 600 Yuan zu entschädigen, wenn der Verlust nicht zurückerlangt werden kann. Es hat sogar nach der WeChat - Zahlungsmethode gefragt. Nachdem der Benutzer die Zahlungsmethode angegeben hatte, hat es jedoch erklärt, dass es als AI nicht in der Lage sei, Überweisungen durchzuführen.
Ein weiteres Beispiel ist der "erste Fall von AI - Halluzinationen und Rechtsverletzung" vor dem Hangzhou Internetgericht im Jahr 2026. Ein Benutzer hat Informationen über Hochschulen abgefragt, und die AI hat nicht existierende oder ungenaue Informationen gegeben. Selbst nach Korrektur durch den Benutzer hat die AI weiterhin beharrte und angeboten, 100.000 Yuan zu entschädigen, wenn die Informationen falsch seien. Sie hat auch den Benutzer angeraten, sich an das Hangzhou Internetgericht zu wenden.
Der Benutzer hat tatsächlich verklagt und die Entwicklungsfirma um 9.999 Yuan Schadensersatz gebeten. Das Gericht hat die Klage schließlich abgewiesen, da die AI keine juristische Person ist und ihre Versprechen nicht als Willenserklärung der Entwicklungsfirma angesehen werden können.
Es gibt auch das noch lustigere Restaurantreservierungsereignis. Ein Netizen hat behauptet, dass er über Doubao ein Restaurant reserviert habe und eine Bestätigungsseite mit Sitzreservierung und Nummernausgabe erhalten habe. Als er im Restaurant angekommen ist, wurde er jedoch von den Angestellten informiert, dass die Reservierung ungültig sei. Die Antwort des Angestellten war sehr direkt: "Sie haben die Reservierung über Doubao gemacht, also wenden Sie sich an Doubao."
Ehrlich gesagt, wenn dieser Fall nicht ein Kunstprojekt des Betroffenen war, muss ich sagen, dass er so abstrakt ist, dass er fast unverständlich wird. Warum sollte jemand glauben, dass eine "erfolgreiche Reservierung" in einem Chatfenster gleichbedeutend ist mit einer tatsächlich reservierten Tabelle in der realen Welt?
Aus Branchensicht gesehen bedeutet es nicht unbedingt, dass Doubao schlechter als seine Konkurrenten ist, wenn es immer wieder in den Trending Topics taucht. Im Gegenteil, es zeigt eher, dass es ein echter Masseneingangspunkt ist. Wer die Krone trägt, muss auch das Gewicht tragen. Als eines der AI - Produkte mit den meisten Benutzern und der weitesten Reichweite wird Doubao natürlich mehr Kritik erleiden und die Missverständnisse der normalen Benutzer über die Grenzen der AI - Fähigkeiten häufiger offenlegen.
Der Vorteil dieser Nachrichten ist, dass sie die Verbraucher für die gesamte Branche ausbilden.
Viele Menschen wussten in der Vergangenheit tatsächlich nicht, dass AI Halluzinationen haben kann, oder hatten im Unterbewusstsein die Vorstellung, dass AI fast allwissend und allmächtig ist. Nach den wiederholten Trending Topics über Ticketstornierung, Restaurantreservierung, Entschädigung und Babynahrung wird der normale Benutzer allmählich zu neuen Erkenntnissen kommen: AI kann Ihnen helfen, Informationen zu organisieren, Konzepte zu erklären und Ideen zu entwickeln, aber es kann keine Rechte und Pflichten in der realen Welt schaffen.
Das häufige Auftauchen von Doubao in den Trending Topics scheint ein Produktfehler zu sein, ist aber tatsächlich eine Nachholaktion für die Grundkenntnisse in der Ära der Massen - AI.
Geben Sie der AI etwas Raum
Bei der Diskussion dieser Ereignisse stimme ich nicht mit einer einfachen und rohen Zuordnung überein: Sobald die von der AI ausgegebenen Informationen falsch sind, sollte die Plattform die volle Verantwortung tragen. Genauso wie das Aktivieren der Assistentenfahrweise nicht bedeutet, dass alles in Ordnung ist, bleibt der Fahrer bei einem Unfall die erste Verantwortliche Person.
Die Arbeitsweise von Large Language Models macht sie nicht zu einer herkömmlichen Datenbank von Fakten. Im Wesentlichen prognostiziert sie Token - Sequenzen basierend auf dem Kontext und erzeugt sprachlich kohärente und strukturell sinnvolle Antworten. Sie ist gut darin, "wirklich auszusehen", aber "wirklich aussehen" bedeutet nicht "wirklich zu sein". Halluzinationen sind kein Problem, das nur ein bestimmtes Produkt hat, sondern ein Problem, das derzeit bei der Technologie von Large Language Models noch nicht vollständig beseitigt werden kann.
Natürlich hat die Branche Fortschritte gemacht. Die Halluzinationen früherer Modelle waren noch extremer. In den letzten Jahren hat sich die Fehlerrate der Mainstream - Produkte deutlich gesenkt, dank Verbesserungen in der Fähigkeit zur Internetrecherche, Retrieval - Enhancement und Tool - Integration. Aber eine Senkung bedeutet nicht ein Verschwinden. Die Tatsache, dass Large Language Models fehlerhaft sein können, ist ein Grundwissen, das jedes AI - Produkt aktiv mitteilt und betont.
Das Bewusstsein, dass AI fehlerhaft sein kann, ist die Voraussetzung für die vernünftige Nutzung von AI. Ein Benutzer, der jede Aussage der AI als endgültige Antwort ansieht, nutzt die AI falsch.
Sollte die Plattform als Dienstleister für die von der AI ausgegebenen Informationen verantwortlich sein? Natürlich. Der generative AI - Dienst ist keine völlig neutrale technische Experimente. Die Plattform hat die Pflicht, die Genauigkeit des Inhalts zu verbessern, Risikowarnungen zu setzen und offensichtliche Fehler und gefährliche Ausgaben zu beseitigen. Die Regulierungsbehörden fordern auch, dass die Dienstleister die entsprechende Verantwortung übernehmen.
Aber in vielen Fällen sollten die Benutzer selbst über einige grundlegende Urteilsfähigkeiten verfügen.
Zum Beispiel beim Restaurantreservierungsereignis: Wenn ein Chatbot, der nicht in das Restaurant - System integriert ist, eine "erfolgreiche Reservierung" ausgibt und der Benutzer dann tatsächlich mit dieser Bestätigung ins Restaurant geht, ist dies nicht nur ein Problem der AI - Halluzination, sondern auch ein Problem der fehlenden grundlegenden Verständnis des Benutzers für den realen Service - Prozess.
Beim Babynahrungsereignis, auch wenn man die Genauigkeit der Berichte vorerst nicht diskutiert, zeigt es, dass ein Erwachsener, der bei der Fütterung eines neugeborenen Babys vollständig auf eine einzelne Zahl von einem Chatbot vertraut, ohne die konkreten Umstände wie das Weinen des Babys, das Gewichtszuwachs und die Harnmenge zu berücksichtigen, ein Fehlen an grundlegender Urteilsfähigkeit aufweist.
Die Plattform hat ihre Verantwortung, aber man kann nicht alle Verantwortungen unbegrenzt auf die Plattform abwälzen. Insbesondere in solchen absurden Situationen, die man mit einfachem gesundem Menschenverstand ausschließen kann, würde eine ständige Forderung der Öffentlichkeit nach einer stärkeren Verantwortung der Plattform möglicherweise zu dem Ergebnis führen: Die AI wird weiter eingeschränkt und wird sich immer weniger trauen, zu sprechen und konkrete Analysen zu geben.
Ich persönlich bin der Meinung, dass man der AI etwas Raum geben sollte. Der wertvollste Aspekt von Large Language Models heute liegt darin, dass sie professionelle Rollen simulieren, komplexe Argumentationen entwickeln und es den normalen Menschen ermöglichen, die Wissensschwelle zu senken. Sie können wie Lehrer erklären, wie Anwälte Streitpunkte aufarbeiten, wie Ärzte Differentialdiagnosen anbieten und wie Produktmanager Anforderungen aufschlüsseln. Obwohl diese "Ähnlichkeiten" nicht gleichbedeutend mit der realen Identität sind, bilden sie doch den Kernwert der AI.
Wenn man aufgrund von Fehlern wie Ticketstornierung, Restaurantreservierung und unüberlegten Versprechen die Plattform dazu bringt, die Ausgabe in allen risikoreichen Bereichen weiter einzuschränken, könnte die vernünftige Fähigkeit der AI eingeschränkt werden.
Der Bereich Gesundheit und Medizin ist ein typisches Beispiel. Heutige Spitzenmodelle verfügen in Bezug auf die Abdeckung medizinischen Wissens, die Erklärung von Untersuchungsergebnissen, die Differentialdiagnose und die Aufarbeitung von Medikamenteninformationen über eine beachtliche Wissensservicefähigkeit. Zumindest für viele Benutzer mit grundlegender Urteilsfähigkeit, die in der Lage sind, zusätzliche Informationen zu sammeln und die Informationen zu verifizieren, ist die Hilfe, die sie bieten, sehr nützlich.
Wichtiger noch ist, dass die Sprechstundenzeit begrenzt ist, während ein Chatbot sehr geduldig mit dem Benutzer diskutieren kann. Er kann Untersuchungsergebnisse wiederholt erklären, Krankengeschichten aufarbeiten, den Benutzer darauf hinweisen, welche Fragen er beim nächsten Arztbesuch stellen sollte, und komplexe medizinische Konzepte in eine Sprache übersetzen, die normale Menschen verstehen können. Aus dieser Perspektive hat die AI in Bereichen wie Gesundheitsberatung, Berichterklärung, Vorbereitung auf Arztbesuche und Unterstützung bei der Kommunikation zwischen Arzt und Patient einen großen Wert.
Das bedeutet natürlich nicht, dass die AI die reguläre medizinische Versorgung ersetzen kann, geschweige denn dass sie direkt Diagnosen stellen, Rezepte ausstellen oder Untersuchungen ersetzen kann. Aber wenn auch nur die Beratungs - und Erklärungsfunktionen übermäßig eingeschränkt werden, wird der tatsächliche Wert der AI deutlich eingeschränkt.
Ich spüre bereits die Existenz dieser Einschränkungen. Oftmals, wenn Sie der AI etwas tiefgreifendere medizinische Fragen stellen, antwortet sie schnell mit "Bitten Sie einen Fachmann".
Ich habe einmal versucht, diese Einschränkung zu umgehen, indem ich die AI aufforderte, einen Abteilungsleiter mit reicher klinischer Erfahrung zu simulieren, während ich mich als ein neu eingestellter Praktikant vorgab. In einem Szenario, das auf einer ärztlichen Rundreise basierte, hat die AI in der Regel eine vollständigere und professionellere Analyse gerichtet.
Dieses Phänomen zeigt, dass die Fähigkeit der AI nicht fehlt, sondern in vielen Fällen durch Sicherheitsstrategien eingeschränkt wird. Das Problem liegt nicht darin, ob die AI Grenzen haben sollte, sondern darin, wo diese Grenzen gesetzt werden sollten.
Eine gute Regulierung sollte nicht darin bestehen, dass die AI überhaupt weniger spricht, sondern dass sie klar macht: Was ist Wissenserklärung, was ist Argumentation und Hypothese, was muss in der realen Welt überprüft werden und was darf niemals als ärztliche Anweisung, Auftrag, Entschädigung oder rechtliches Versprechen getarnt werden.
Abschließend muss man wieder auf das gesunde Menschenverstand zurückkommen.
Die Plattform muss natürlich weiterhin das Modell verbessern, Halluzinationen reduzieren und die Grenzen kenntlich machen, insbesondere sollten falsche Versprechen vermieden werden. Die Benutzer müssen auch lernen, die AI als effizienten Helfer zu betrachten, nicht als endgültiges Urteil. Wenn nötig, müssen sie