Li Yanhongs KI-Projekt: Baidu stößt auf das alte Drehbuch im Qvod-Stil

In letzter Zeit malt die gesamte KI-Szene die Katastrophen aus, die künstliche Intelligenz für die Menschheit verursachen könnte.

Jacob Coxon, der zuvor als Forscher für das Vortraining von fortschrittlichen großen Modellen bei OpenAI und Anthropic tätig war, hat kürzlich eine Kündigungserklärung veröffentlicht: In nur zehn Jahren könnte KI alle Menschen töten. 

Diese Erklärung verbreitete sich viral, und die Frage "Wird KI die Menschheit zerstören?" wurde zum heißesten Diskussionsthema.

Ob unklar ist, ob KI in Zukunft Menschen töten wird, ist die Unschuld gewöhnlicher Menschen bereits zu einem Opfer geworden.

Laut einem kürzlichen Artikel von "Changanjie Zhishi" wurden Huang Guigeng und andere mehr als ein Jahr lang von den KI-Zusammenfassungen der Baidu-Suche verleumdet und warten immer noch auf ein faires Ergebnis der Bearbeitung.

Die Worte von Qvod sind in den Mund von Baidu gelangt

Im Mai 2025 erhielt der Pekinger Anwalt Huang Guigeng drei Screenshots von seinem Mandanten:

Der Inhalt der Screenshots sind die von Baidu KI generierten Suchergebnisse nach der Suche mit dem Stichwort "Anwalt Huang Guigeng".

Nach falscher Zusammenfassung der Informationen im gesamten Internet zeigte die KI, dass "Anwalt Huang Guigeng" in Fällen von Fälschung von Unternehmensstempeln, Prüfung von Garantiefristen und Bedrohung von Richtern verwickelt ist.

Ein Anwalt wurde ohne ersichtlichen Grund zu einem Verdächtigen in den Aussagen der KI.

Huang Guigeng sagte dem Reporter der Beijing Daily, dass die Frau dieses Mandanten, um seinen Hintergrund zu überprüfen, die Informationen über Huang Guigeng über Baidu suchte. Nachdem sie die falschen negativen Zusammenfassungen der KI gesehen hatte, hegte sie große Zweifel an der beruflichen Integrität von Huang Guigeng, und es kam zu einer Vertrauenskrise zwischen den beiden Seiten.

Daraus geht hervor, dass die falschen Informationen, die von der Baidu KI-Suche bereitgestellt werden, über bloße Tatsachenabweichungen hinausgehen und einen erheblichen Einfluss auf die berufliche Laufbahn von Huang Guigeng ausgeübt haben.

Im Jahr 2025 verklagte Huang Guigeng Baidu und forderte eine Entschädigung von einer Million Yuan. Selbst nach der Einreichung und Annahme der Klage wurden die falschen Inhalte weiterhin generiert.

Dies ist kein Einzelfall. Berichten mehrerer Medien zufolge erzeugen die KI-Zusammenfassungen von Baidu massenhaft ähnliche Fälle:

Bei dem Anwalt Li Xiaoliang aus Nanjing hat Baidu KI ihm direkt ein Foto im Anwaltsgewand zugeordnet und behauptet, er sei "zu drei Jahren Freiheitsstrafe verurteilt worden".

Als der Besitzer einer Brennerei in Jiangsu seinen eigenen Markennamen in Baidu suchte, wurde automatisch die Phrase "Warum wurde es verboten?" zugeordnet. Nach dem Klicken führte die KI eine Reihe von Analysen durch, und die aufgeführten Gründe für das "Verbot" waren alle aus der Luft gegriffen.

Berichten der "Xinjing News" zufolge entdeckte der 37-jährige Ji Chengxiang Ende 2025 bei der Suche nach seinem Namen in Baidu, dass er ebenfalls von der KI "verleumdet" wurde.

Baidu KI stellte das "Verbrechen der Organisation von Prostitution" nach seinen früheren echten Lernerfahrungen und behauptete, er sei von dem Gericht zu einer Freiheitsstrafe von fünf Jahren und sechs Monaten verurteilt worden. Diese Information wurde ebenfalls von einer anderen Person mit demselben Namen "übernommen".

Gu Jinyan, Senior Partner der Beijing Yunjia Rechtsanwaltskanzlei, hat der Presse ebenfalls ähnliche Fälle mitgeteilt, bei denen die Erfahrungen der Betroffenen sehr ähnlich sind.

Bei der Suche nach dem Namen und dem aktuellen Stand des Betroffenen mit der Baidu-Suchmaschine generierte die KI den Inhalt, dass er "zu 10 Jahren und 3 Monaten Freiheitsstrafe verurteilt wurde", mit dem Titel "Zehn Jahre im Gefängnis, die Zukunft wartet auf das Licht", und markierte vor den generierten Informationen auffällig "Zusammenfassung von 54 echten Erfahrungen im gesamten Internet".

Diese Fälle haben eines gemeinsam: Die KI hat sich nicht einfach "geirrt", sondern eine groß angelegte "Zuweisung von Eigenschaften an die falsche Person" vorgenommen.

Sie hat die Strafregister anderer Personen mit demselben Namen im Internet oder die anonymisierten "Personen namens Huang" in Nachrichtenberichten präzise auf unschuldige Personen übertragen und ihnen echte Fotos oder Erfahrungen zugeordnet, um eine scheinbar autoritative, aber tatsächlich unrichtige Zusammenfassung zu erzeugen.

Diese Vorfälle zeigen, dass KI bereits erheblichen objektiven Schaden für die Menschen in geistiger Hinsicht verursacht hat.

Das erinnert uns daran, dass Li Yanhong auf der Baidu World Conference im letzten Jahr sagte: "Jetzt, wenn Sie Baidu-Suche verwenden, sind die meisten Ergebnisse bereits automatisch von KI generiert."

Er fügte hinzu, dass KI die Suche neu definieren werde.

Zu diesem Zeitpunkt hatte er wahrscheinlich nicht erwartet, dass die neu definierte Suche auch den Ruf gewöhnlicher Menschen einschließt, der nirgendwo untergebracht werden kann.

Angesichts der wachsenden Kritik und Klagen hat die Art und Weise, wie Baidu darauf reagiert, eine breite Diskussion in der Branche ausgelöst.

Im Februar 2026 fand die erste Verhandlung im Fall Huang Guigeng statt. Baidu verteidigte sich vor Gericht, dass KI-Halluzinationen ein unvermeidbares phasenweises Problem in der Produktentwicklung seien, Baidu biete neutrale technische Dienstleistungen an, habe keine subjektive Fahrlässigkeit und begehe keine Verletzung von Rechten.

Interessanterweise ist diese Argumentation der Aussage von Wang Xin, dem CEO von Qvod, der 2016 auf der Anklagebank stand, dass "Inhalte nicht meine Verantwortung sind", sehr ähnlich. "Technische Neutralität" und "Ich bin nur ein Anbieter von technischen Dienstleistungen" sind fast identisch.

Allerdings sollte die Verantwortung einer technischen Plattform nicht nur darin bestehen, die Plattform selbst zu warten.

Kürzlich wurde auf der Plattform Xianyu aufgedeckt, dass dort eine versteckte Industrie mit sexuellen Dienstleistungen existiert. Bei Untersuchungen stellte der Reporter fest, dass in den persönlichen Informationen einiger Kundendienstmitarbeiter deutlich die Wörter "Chube kann gebucht werden" stehen. Nach weiterer Kommunikation wurde bestätigt, dass die meisten dieser Mädchen, die "gebucht" werden können, Minderjährige sind, die jüngste ist erst 14 Jahre alt.

Wenn "Technische Neutralität" eine Ausrede für Baidu sein kann, kann sie auch ein Schutzschild für Xianyu sein – "Ich bin nur eine Plattform zur Vermittlung von Transaktionen. Ob die von Nutzern veröffentlichten Inhalte die Organisation von Prostitution Minderjähriger betreffen, hat nichts mit mir zu tun".

Die Technik selbst hat keine Position, aber die Menschen, die die Technik beherrschen, haben eine.

Wenn Technik nicht mehr nur ein einfaches Werkzeug ist, sondern tief in die Informationsverteilung, die öffentlichen Angelegenheiten und sogar das persönliche Schicksal eingreift, ist sie bereits aus dem Bereich der "Neutralität" ausgetreten.

Qvod stand damals in der Kritik, weil es keine wirksame Kontrolle über Raubkopien und pornografische Inhalte durchgesetzt hatte. Baidu KI wird heute ebenfalls in Frage gestellt, weil sie falsche Informationen generiert, die den Ruf und die berufliche Entwicklung von Personen beeinträchtigen können.

Obwohl die konkreten Situationen der beiden Fälle unterschiedlich sind, weisen die dahinter stehenden Probleme Ähnlichkeiten auf: Vor dem Hintergrund, dass Technik tief in den gesellschaftlichen Betrieb integriert ist, darf "Technische Neutralität" kein Grund sein, um öffentliche Verantwortung zu umgehen.

Baidu argumentierte weiter, dass "KI-Halluzinationen ein unvermeidbares phasenweises Problem in der Produktentwicklung seien".

Diese Aussage steht jedoch in deutlichem Widerspruch zu seinen früheren öffentlichen Erklärungen.

Auf der Weltkonferenz im November 2024 erklärte Li Yanhong lautstark, dass große Modelle "Halluzinationen im Wesentlichen beseitigt" hätten.

Die tatsächliche Leistung der Baidu KI-Suche steht jedoch in krassem Gegensatz zu dieser strategischen Erwartung: Die sogenannten "Halluzinationen" sind nicht nur nicht verschwunden, sondern zeigen eine besorgniserregende "gezielte Aggressivität".

Sie ist nicht mehr ein zufälliger technischer Störfaktor, sondern überträgt präzise und erfindet aus dem Nichts hochriskante negative Umstände wie Bestrafung, Verurteilung und Freiheitsstrafen.

KI-Modelle haben zwar tatsächlich Halluzinationsprobleme, aber dieses Verhalten der präzisen Übernahme von Identitäten und aktiven Erfinden von Inhalten geht über den Rahmen technischer Beschränkungen hinaus.

Berichten von "Changanjie Zhishi" zufolge erwähnt Baidu in seiner eigenen Beschreibung des Systems, dass nach der Verbesserung der Suchfunktion das große Modell die Relevanz, Aktualität, Autorität, Sicherheit, Wiederholung und minderwertige Inhalte der Kandidateninformationen in mehrdimensionaler Hinsicht filtert.

Bei sensiblen Stichwörtern wie Richtern, Anwälten und Strafsachen konnte der Prüfmechanismus jedoch offensichtlich keine wirksame Blockierung durchführen.

Der Kern des Problems liegt darin: Wenn der Prüfmechanismus wirklich ordnungsgemäß funktioniert, können diese Inhalte überhaupt nicht veröffentlicht werden.

Baidu muss möglicherweise beantworten, an welcher Stelle dieser Mechanismus versagt hat? 

Der aussagekräftigste Beweis stammt aus dem Branchenvergleich. Im Fall Li Xiaoliang fragte der Richter der zweiten Instanz während der Verhandlung: "Wenn Sie Fragen an Doubao und DeepSeek stellen, warum tauchen diese Bewertungen dort nicht auf?"

Diese Frage weist auf eine entscheidende Tatsache hin – dass ähnliche Probleme bei vergleichbaren Produkten nicht auftreten, zeigt, dass dieser Fehler keine unvermeidbare Folge der technischen Entwicklung sein muss, sondern dass die Plattform möglicherweise unzureichende Investitionen in die Pflichten der Prüfung und Prävention getätigt hat.

KI-Suche wird von Baidu als nächster Wachstumsmotor positioniert, es werden große Mengen an Ressourcen investiert, und die Nutzungsgewohnheiten der Nutzer bilden sich allmählich aus.

Baidu hat bisher keine überzeugende Erklärung dafür abgegeben, wie gut die Investitionen in die drei Ebenen – vorbeugende Bewertung der Inhaltssicherheit, Prüf- und Blockierungsmechanismus während des Prozesses und effizienter Korrekturkanal nach dem Vorfall – mit der Wachstumsgeschwindigkeit übereinstimmen.

Der Kern des Problems liegt möglicherweise darin: Wenn ein Unternehmen die KI-Suche als "Wachstumsmotor" positioniert, wie viele Ressourcen hat es dann in die Inhaltssicherheit investiert und wie viele in die kommerzielle Verwertung?

Wenn wir auf die Entwicklungsgeschichte von Baidu zurückblicken, hat es zwar den KI-Trend erfasst, aber die zugrundeliegende kommerzielle Logik scheint eine Kontinuität aufzuweisen.

Im Fall Wei Zexi im Jahr 2016 verknüpfte Baidu die Rangfolge der Suchergebnisse mit Bietanzeigen; im selben Jahr wurde die Bluterkrankheit-Community verkauft, und das Vertrauen der Gemeinschaft wurde direkt verwertet.

Zwischen den Nutzerrechten und den kommerziellen Interessen scheint Baidu immer das Letztere zu wählen.

Es ist an der Zeit, dass Baidu die Verantwortung eines großen Technologieunternehmens übernimmt

Laut früheren Berichten von The Paper hat der Vertreter von Baidu in der Verhandlung des früheren Falls Li Xiaoliang erklärt, dass dieser Fall der erste Fall von Verletzung von Rechten durch große KI-Modelle in China sei. Das Urteil in diesem Fall werde einen enormen Einfluss auf das Risiko der Branche ausüben, und man hoffe, dass das Gericht den Fall sorgfältig prüft.

Tatsächlich sind die durch KI verursachten Kontroversen aus der theoretischen Diskussion herausgetreten und nach und nach vor Gericht gekommen, um zu konkreten Fällen zu werden, die entschieden werden müssen.

Ihr Verlauf wird auch als Referenz für die gesamte Branche dienen.

Abgesehen von den möglichen Auswirkungen läutet dies auch zunehmend eine Warnung ein.

Mit der Verbreitung von KI erkennen immer mehr führende Unternehmen die Sicherheitsprobleme, vor denen KI steht.

Am 12. September veröffentlichte Dario Amodei, CEO von Anthropic, öffentlich einen Artikel, in dem er die fortschrittliche KI aufforderte, sich zu verlangsamen, und vorschlug, unabhängige Sicherheitsbewertungen einzuführen, branchenweite Sicherheitsstandards festzulegen und sogar die Fähigkeiten von hochriskanter KI global zu begrenzen.

Diese Initiative fand schnell die Zustimmung von Elon Musk, Sam Altman und Demis Hassabis von Google DeepMind. Auch Microsoft-CEO Satya Nadella betonte, dass Zeit für KI-Sicherheitstests eingeplant werden müsse.

Die vier führenden KI-Labors im Silicon Valley haben selten einen Konsens erzielt, was die kollektive Wachsamkeit der Branche für Sicherheitsprobleme signalisiert.

Im Vergleich dazu muss Baidu als führendes chinesisches KI-Unternehmen bei der schnellen Förderung der Kommerzialisierung möglicherweise auch im Voraus mehr Mechanismen zur Risikoprävention und Verantwortungsübernahme aufbauen.

Aus dem Q2-Finanzbericht von Baidu geht hervor, dass der Umsatz mit KI-Geschäften 12,5 Milliarden Yuan erreichte, was fast die Hälfte des allgemeinen Geschäftsumatzes ausmacht, d. h. jeder zweite Yuan des Umsatzes stammt aus KI.

Baidu KI hat eine vollständige technische Kette von Kunlun-Chip, PaddlePaddle-Deep-Learning-Framework, Ernie-Großmodell bis zu branchenspezifischen Modellen aufgebaut und ist eines der wenigen KI-Unternehmen in China, das die gesamte Technologie selbst entwickelt hat.

Im Bereich des autonomen Fahrens wird es sogar als die "Huangpu-Militärakademie für autonomes Fahren in China" bezeichnet.

Der Beitrag von Baidu zur Förderung von KI in China ist offensichtlich, und es steht an der Spitze der chinesischen KI-Entwicklung.

Die heutige Erhöhung des Anteils des KI-Geschäfts bedeutet auch, dass die Verantwortung und das Risiko von Baidu im KI-Bereich gleichzeitig zunehmen.

Baidu muss möglicherweise mehr Anstrengungen unternehmen, um mehr Verantwortung zu übernehmen.

Neben dem Phänomen der "falschen Zuordnung von Eigenschaften" in den KI-Suchergebnissen kam es bei seinem autonomen Fahren Geschäft "Apollo Go" im März dieses Jahres in Wuhan zu einem Massenstillstand: Fast hundert Fahrzeuge von Apollo Go blieben plötzlich auf der Straße stehen, und die Fahrgäste saßen fast zwei Stunden lang auf der Hochstraße fest.

Erwähnenswert ist, dass das SOS-System im Fahrzeug versagte und die Kundendiensttelefone keine wirksame Antwort gaben. Schließlich mussten die Verkehrspolizisten die Fahrgäste zu Fuß evakuieren.

Dieser Vorfall hat die M