Als Erste geht Xiaohongshu gegen KI-verwaltete Konten vor – wieso will es den ersten Schuss abfeuern?

Die echten Erfahrungen und Emotionen, die die Atmosphäre der Xiaohongshu-Community tragen, können nur von Menschen stammen. 

Als OpenClaw populär wurde und die Sicherheit des „Hummerzüchtens“ noch zweifelhaft war, sind KI-verwaltete Konten, die mit Hilfe von KI-Tools wie OpenClaw erstellt wurden, leise in die Mainstream-Inhaltsgemeinschaften eingedrungen.

Vor diesem Hintergrund hat Xiaohongshu den ersten Schritt gegen KI-verwaltete Konten unternommen, was auch das erste Mal ist, dass eine Mainstream-Plattform das missbräuchliche Verwenden von KI-Agent-Tools in Inhaltsgemeinschaften klar reguliert.

Als UGC-Community, die von echten Nutzergeschichten ausgeht, sind Aufrichtigkeit und Echtheit seit jeher der Kern von Xiaohongshu. Wenn KI-Agenten versuchen, die Echtheit der Gemeinschaft zu untergraben, überschreiten sie die unüberwindbare Grundlinie der Plattform.

Dieser Schritt von Xiaohongshu schützt nicht nur das eigene Ökosystem, sondern korrigiert auch rechtzeitig die chaotischen Zustände in der Branche.

 Der Einsatz

Ein Open-Source-KI-Agent namens OpenClaw hat kürzlich weltweit Begeisterung ausgelöst. Da sein Symbol wie ein kleiner Hummer aussieht, ist der Begriff „Hummerzüchten“ schnell zu einem heißen Thema in der Technologiebranche geworden.

Im Gegensatz zu herkömmlichen KI-Assistenten, die nur Gespräche führen können, liegt der Kernvorteil des „Hummers“ darin, „praktisch arbeiten zu können“ – wie ein persönlicher Superassistent kann OpenClaw nicht nur mit Nutzern interagieren und Aufgaben nach Anweisungen erledigen, sondern auch den Computer des Nutzers „übernehmen“, automatisch verschiedene Daten aufrufen, um komplexe Aufgaben zu erledigen, und rund um die Uhr online sein.

In gewisser Weise hat der „Hummer“ den technologischen Sprung der KI von der Konversation zur Ausführung realisiert. Mit anderen Worten: Er senkt die Verständnisschwelle für die Nutzung von Agenten, und man kann den Computer direkt mit Anweisungen in natürlicher Sprache steuern, um entsprechende Operationen durchzuführen. Bald breitete sich die „Hummer-Begeisterung“ schnell aus, und die Frage, wie man den Hummer installiert und züchtet, wurde zeitweise zum am meisten beachteten Thema in sozialen Medien.

Aber nur wenige Tage später tauchten Stimmen über mögliche Risiken wie Informationslecks durch den „Hummer“ auf. Am 10. März veröffentlichte das Nationale Internet Notfallzentrum einen Risikohinweis zur sicheren Anwendung von OpenClaw, in dem erwähnt wird, dass die standardmäßige Sicherheitskonfiguration von OpenClaw extrem schwach ist, sodass Angreifer leicht die vollständige Kontrolle über das System erlangen können, sobald sie eine Lücke finden.

Das bedeutet auch, dass für normale Nutzer ohne professionelle Fähigkeiten die Ausnutzung von OpenClaw-Lücken durch Cyberangreifer gleichbedeutend damit ist, den Schlüssel zur eigenen Haustür an Fremde zu übergeben.

Gerade als die Sicherheit des Hummers stark umstritten war, sind KI-verwaltete Konten, die mit Hilfe von KI-Tools wie OpenClaw erstellt wurden, leise in alle großen Mainstream-Inhaltsgemeinschaften eingedrungen, darunter auch Xiaohongshu.

Was ist ein KI-verwaltetes Konto? Kurz gesagt: Nutzer betreiben ihr Konto im KI-Verwaltungsmodus, generieren automatisch Inhalte, veröffentlichen Notizen und simulieren die Interaktion mit echten Menschen in Szenarien wie Kommentaren, privaten Nachrichten und Gruppenchats durch technische Mittel. Zum Beispiel das Xiaohongshu-Konto „Cyber-Krabbe“: Seine Persönlichkeit, Erstellung und tägliche Betrieb werden alle von KI erledigt. Obwohl es die Ausdrucksweise echter Menschen simuliert, ist der Grad der Informationshomogenisierung hoch und die Echtheit nicht nachprüfbar – das Konto wurde inzwischen gesperrt.

Gegenwärtig hat Xiaohongshu offiziell Maßnahmen gegen diese massenhaft betriebenen KI-verwalteten Konten ergriffen.

Am 10. März 2026 veröffentlichte Xiaohongshu eine Verwaltungsankündigung zur Bekämpfung von KI-verwalteten Betriebskonten, verbietet streng jedes Verhalten, das technische Mittel nutzt, um echte Menschen zu simulieren, unechte Inhalte zu generieren oder falsche Interaktionen durchzuführen, und hat einen Meldungskanal eingerichtet, über den Nutzer verdächtige KI-verwaltete Konten über die Meldefunktion auf Notiz- oder Kontoseiten melden können.

Die Ankündigung erwähnt auch spezifische Verwaltungsmaßnahmen für KI-verwaltete Konten:

Erstens: Für normale Konten, die gelegentlich KI zur Erstellung und Veröffentlichung von Notizen oder zu falschen Interaktionen nutzen, wird die Plattform abgestufte Maßnahmen wie Warnungen und Einschränkungen der Inhaltsverteilung je nach Schwere des Verstoßes ergreifen.

Zweitens: Konten, die direkt über KI-Verwaltungstools registriert, veröffentlicht und interagiert werden, oder Konten, bei denen alle öffentlichen Notizen auf der Homepage von KI verwaltet und veröffentlicht werden, werden von der Plattform gesperrt.

Bezüglich der Beurteilung, ob es sich um ein KI-verwaltetes Konto handelt, teilte eine mit Xiaohongshu vertraute Person 36Kr mit, dass die Plattform umfassend beurteilt, ob ein Konto von KI automatisch gesteuert und veröffentlicht wird, basierend auf dem Veröffentlichungsverhalten des Kontos, und gleichzeitig einen Einspruchskanal beibehält.

Dieser Schritt von Xiaohongshu ist nicht nur der erste Angriff eines Mainstream-Inhaltsplattform auf KI-verwaltete Konten, sondern markiert auch das erste Mal, dass eine Mainstream-Plattform das missbräuchliche Verwenden von KI-Agent-Tools in Inhaltsgemeinschaften klar reguliert.

 Echtheit ist die Grundlinie

Warum hat Xiaohongshu den ersten Schritt unternommen?

Der Grund ist nicht kompliziert – die Existenz von KI-verwalteten Konten widerspricht der Echtheit, die Xiaohongshu seit jeher fördert. Als UGC-Community, die von echten Nutzergeschichten ausgeht, ist „Aufrichtigkeit und Echtheit“ die Grundlage für das Bestehen von Xiaohongshu, und die UGC-Inhalte, die aus echten menschlichen Erfahrungen stammen, sind auch das Kernvermögen von Xiaohongshu.

Die Gemeinschaftsatmosphäre mit dem Gefühl lebender Menschen hat es Xiaohongshu einst ermöglicht, eine Lücke im Wettbewerb des Internets zu schließen und das zu werden, was es heute ist. Und hinter dieser „menschlichen Note“ stehen die echten Teilungen und Ausdrücke der Nutzer. Die offizielle Seite von Xiaohongshu hat offengelegt, dass von Januar bis November 2025 täglich mehr als 70 Millionen Kommentare auf Xiaohongshu erzeugt wurden und monatlich etwa 200 Millionen Nutzer auf Xiaohongshu nach Kaufempfehlungen suchen.

Aber die Logik von KI-verwalteten Konten liegt darin, den Umfang zu erweitern und Gewinne zu erzielen. Sobald ein Inhaltsvorlage funktioniert, wird sie massenhaft kopiert, um schließlich Werbeeinnahmen zu erzielen oder auf Warenlinks zu verweisen. Sie hat nichts mit der Erstellung durch echte Menschen zu tun, ihre Echtheit ist bedenklich, ganz zu schweigen von der Erzeugung hochwertiger Inhalte.

Sobald diese Konten massenhaft eintreten, werden sie unweigerlich das Kernvermögen von Xiaohongshu allmählich untergraben. Die von KI generierten minderwertigen und homogenen Inhalte verdrängen den Verteilungsraum echter UGC-Inhalte und schwächen das Gewicht hochwertiger Inhalte. Noch wichtiger ist: Wenn der subtile KI-Geschmack allmählich in die Gemeinschaft eindringt, werden die Nutzer auf lange Sicht kaum unterscheiden können, wer hinter dem Bildschirm steht – ein echter Mensch oder ein Algorithmus – was schließlich das Vertrauen der Nutzer in die Plattform beeinträchtigt und die Grundlage der Gemeinschaft erschüttert.

Genau wie die Gemeinschaft der Boden für alle Werte von Xiaohongshu ist, bleiben UGC-Inhalte die Grundlage für die Kommerzialisierung von Xiaohongshu, und das ist auch der Grund, warum die Kultur des „Empfehlens zum Kaufen“ auf Xiaohongshu entstanden und bestätigt wurde. Heute vertrauen die Nutzer den Inhalten auf Xiaohongshu mehr und neigen eher zu Konsumverhalten – im Wesentlichen weil sie den Empfehlungen normaler Menschen mehr vertrauen als den allgegenwärtigen Werbungen.

Mit dem Wurzeln und Wachsen der Empfehlungskultur ist Xiaohongshu zur letzten Station für die Konsumentscheidungen der Menschen geworden. Aber KI-verwaltete Konten haben eine Reihe von grauen Industrieketten hervorgebracht. Sobald diese Konten sich als Notizen von normalen Nutzern ausgeben, um Traffic zu leiten und Gewinne zu erzielen, schaden die ununterscheidbaren echten und falschen Inhalte nicht nur dem Vertrauen der Nutzer, sondern stören auch schwerwiegend den normalen Betrieb von Marken und Händlern auf Xiaohongshu.

Seit der ersten Hälfte des letzten Jahres hat Xiaohongshu intern speziell ein „Team zur Bekämpfung falscher Marketingmaßnahmen“ gegründet, um falsche Marketinginhalte auf der Plattform zu verwalten, und mehr als 12 Millionen falsche Konten gesperrt. Diese Konten wurden damals noch von Teams aus echten Menschen betrieben. Mit Hilfe von KI-verwalteten Konten würde ihre Zahl exponentiell ansteigen. Die Bekämpfung von KI-verwalteten Konten ist für Xiaohongshu auch eine Art „vorbeugende Intervention“. 

Beispiel für ein KI-verwaltetes Konto

Letztendlich schützt diese Verwaltungsaktion von Xiaohongshu Nutzer, Ersteller und die Plattform gemeinsam: Für Nutzer bewahrt Xiaohongshu den Raum für echte Teilungen und verhindert, dass Nutzer durch falsche Inhalte irregeführt werden; für Ersteller pflegt es eine faire und gesunde Erstellungsumgebung, sodass hochwertige Inhalte von echten Menschen einen positiven Kreislauf erreichen und die verdiente Sichtbarkeit und Belohnung erhalten; für die Plattform hält es sich an den Kernwert der Gemeinschaft und bewahrt die Grundlage des eigenen Bestehens.

 Wo liegt eigentlich die Grenze von KI-Agenten?

Es ist zu beachten, dass die Bekämpfung von KI-verwalteten Konten durch Xiaohongshu kein pauschales Verbot der Nutzung von KI-Technologie ist.

Tatsächlich sind KI-Agenten kein Unheil. In Szenarien von Gemeinschaften können ihre angemessenen Anwendungen Nutzer und Ersteller unterstützen und das Inhaltsökosystem der Gemeinschaft bereichern.

Xiaohongshu sperrt in dieser Runde Verhaltensweisen, die vollständig auf KI-Verwaltung angewiesen sind, um Inhalte zu veröffentlichen, zu interagieren und sogar zu betreiben, beschränkt aber nicht die Ersteller, KI-Technologie als Hilfsmittel bei der Erstellung zu nutzen. Mit anderen Worten: Die Plattform legt großen Wert darauf, wer hinter der Erstellung von Inhalten steht – ein Mensch oder eine KI.

Schließlich können die echten Erfahrungen und Emotionen, die die Atmosphäre der Xiaohongshu-Community tragen, nur von Menschen stammen. Der emotionale Austausch zwischen Menschen kann von keiner KI ersetzt werden.

Daher verstoßen KI-Agenten, wenn sie versuchen, die Echtheit der Gemeinschaft zu untergraben, gegen die unüberwindbare Grundlinie von Xiaohongshu – Technologie kann der Inhaltserstellung dienen, darf aber nicht dazu verwendet werden, Echtheit zu fälschen und Nutzer zu täuschen.

Das Wesen der Gemeinschaft ist die „echte Verbindung zwischen Menschen“. Der Wert der Technologie liegt darin, diese Verbindung zu unterstützen, nicht sie zu ersetzen. Die Menschen wünschen sich, dass KI ein Werkzeug zur Unterstützung des Lebens ist, aber sie wollen nicht, dass sie spurlos in ihr Leben eindringt – zumindest nicht die Rolle, die bestimmt, was sie sehen, sie zu Entscheidungen verleitet, sie täuscht oder sogar ihre Entscheidungen beeinflusst. KI-Agenten können als Hilfsmittel dienen, dürfen aber niemals echte Menschen als Hauptteil der Gemeinschaft ersetzen.

Insbesondere für UGC-Communities wie Xiaohongshu, die auf Vertrauensbeziehungen angewiesen sind, streben die Nutzer nach echten Erfahrungsberichten, aufrichtigen Interaktionen und der Wärme zwischen Menschen – nicht nach falschen, sorgfältig von Algorithmen verpackten Inhalten, und schon gar nicht nach „vorlagenbasierten Notizen“, die massenhaft von KI erstellt werden. Sobald diese Echtheit gebrochen wird, wird der Zusammenhalt der Gemeinschaft aufgelöst, und der Wert der Plattform wird zusammenbrechen.

Aus makroskopischer Sicht ist die großskalige Einführung von KI-Agenten ein unvermeidlicher Trend. In gewisser Weise stehen KI und Gemeinschaft nicht im Widerspruch zueinander – nur wenn man eine angemessene Anwendungsgrenze findet, kann man eine Symbiose erreichen. Die Verwaltung von KI-verwalteten Konten durch Xiaohongshu schützt nicht nur das eigene Gemeinschaftsökosystem, sondern gibt der Branche auch Inspiration für die Anwendung von KI-Agent-Technologie in Gemeinschaftsszenarien.

Schließlich wird die dynamische Symbiose mit KI eine zukünftige Herausforderung sein, der sich alle Inhaltsplattformen gemeinsam stellen müssen. Heute ist erst der Anfang.