Warum hat Xiaohongshu den ersten Schuss gefeuert, indem es sich als erster gegen AI-verwaltete Accounts gewandt hat?

Die echten Erfahrungen und Emotionen, die die Atmosphäre der Xiaohongshu-Community tragen, können nur von Menschen stammen.

Als OpenClaw plötzlich populär wurde und die Sicherheit des "Haltungs von Hummern" noch in Zweifel gezogen wurde, sind die mithilfe von KI-Tools wie OpenClaw erstellten KI-verwalteten Accounts schon stillschweigend in die Mainstream-Inhaltscommunities geflossen.

Vor diesem Hintergrund hat Xiaohongshu den ersten Schuss auf KI-verwaltete Accounts abgegeben. Dies ist auch das erste Mal, dass eine Mainstream-Plattform die Missbrauch von KI-Agent-Tools in Inhaltscommunities eindeutig reglementiert hat.

Als eine UGC-Community, die von der echten Menschen-Teilen ausgeht, sind Aufrichtigkeit und Echtheit seit jeher die Markenzeichen von Xiaohongshu. Wenn KI-Agenten versuchen, die Echtheit der Community zu infiltrieren, haben sie die unüberschreitbare Grenze der Plattform verletzt.

Und dieser Schritt von Xiaohongshu ist nicht nur der Schutz seiner eigenen Ökosystem, sondern auch eine rechtzeitige Korrektur der Branchenmissstände.

 Der Schritt

Ein Open-Source-KI-Agent namens OpenClaw hat in letzter Zeit weltweit eine Welle erzeugt. Da sein Icon wie ein Hummer aussieht, ist der Begriff "Haltung von Hummern" schnell zu einem beliebten Thema in der Tech-Szene geworden.

Im Gegensatz zu traditionellen KI-Assistenten, die nur Gespräche führen können, liegt der Kernvorteil des "Hummers" darin, dass er "handeln kann" - wie ein persönlicher Superassistent kann OpenClaw nicht nur mit Benutzern interagieren und Aufgaben nach Anweisungen erledigen, sondern auch den Benutzercomputer "übernehmen" und verschiedene Daten automatisch aufrufen, um komplexe Aufgaben zu erledigen, und das rund um die Uhr.

In gewissem Sinne hat der "Hummer" den technologischen Sprung von der KI-Gesprächsfähigkeit zur Ausführung geschafft. Mit anderen Worten, er hat die Schwelle für die Nutzung von Agenten gesenkt. Benutzer können einfach mit natürlicher Sprache Anweisungen geben und direkt den Computer steuern, um die entsprechenden Vorgänge auszuführen. Bald ist die "Hummer-Welle" aus der Nische hinaus und in die Breite gestreut. Wie man Hummer installiert und hält, war auch für eine Zeit das am meisten beobachtete Thema in den sozialen Medien.

Aber nur wenige Tage später begannen Stimmen aufzutauchen, die auf die Risiken wie Informationslecks hinwiesen, die der "Hummer" mit sich bringen könnte. Am 10. März veröffentlichte das Nationale Internet-Emergenzzentrum eine Risikowarnung zur sicheren Anwendung von OpenClaw. Darin wurde erwähnt, dass aufgrund der äußerst schwachen Standard-Sicherheitskonfiguration von OpenClaw Angreifer, sobald sie eine Schwachstelle finden, leicht die volle Kontrolle über das System erlangen können.

Das bedeutet auch, dass für normale Benutzer ohne professionelle Fähigkeiten, wenn die Schwachstellen von OpenClaw von Netzangreifern schädlich ausgenutzt werden, es gleichbedeutend ist, den Schlüssel zu ihrer eigenen Haustür einem Passanten zu geben.

Gerade als die Sicherheit des Hummers heftig diskutiert wurde, hatten sich die mithilfe von KI-Tools wie OpenClaw erstellten KI-verwalteten Accounts schon stillschweigend in die Mainstream-Inhaltscommunities eingeschlichen, und Xiaohongshu ist eine davon.

Was sind KI-verwaltete Accounts? Kurz gesagt, Benutzer betreiben ihre Accounts im KI-Verwaltungsmodus, generieren automatisch Inhalte, veröffentlichen Notizen und simulieren menschliche Interaktionen in Kommentaren, Privatchats und Gruppenchats mithilfe technischer Mittel. Beispielsweise ist der Xiaohongshu-Account "Cyber-Krabbe" von der Persona über die Erstellung bis zur täglichen Verwaltung vollständig von der KI erledigt. Obwohl es menschliche Äußerungen simuliert, ist der Grad der Informationshomogenität hoch und die Echtheit nicht nachprüfbar. Der Account wurde bereits gesperrt.

Zurzeit hat Xiaohongshu offiziell gegen diese massenhaft betriebenen KI-verwalteten Accounts vorgegriffen.

Am 10. März 2026 veröffentlichte Xiaohongshu eine Bekanntmachung zur Bekämpfung von KI-verwalteten Accounts, in der es streng verboten ist, technische Mittel zu nutzen, um Menschen zu simulieren, unechte Inhalte zu generieren oder falsche Interaktionen zu führen. Ein Meldekanal wurde eröffnet, und Benutzer können über die Meldefunktion auf der Notizen- oder Accountseite verdächtige KI-verwaltete Accounts melden.

In der Bekanntmachung wurden auch die konkreten Maßnahmen zur Bekämpfung von KI-verwalteten Accounts erwähnt:

1. Für normale Accounts, die gelegentlich KI-Verwaltung nutzen, um Notizen zu schreiben, zu veröffentlichen oder falsche Interaktionen zu führen, wird die Plattform je nach Schweregrad des Verstoßes Maßnahmen wie Warnungen und Einschränkungen der Inhaltsverteilung ergreifen.

2. Für Accounts, die direkt über KI-Verwaltungstools registriert, veröffentlicht und interagiert werden, oder für Accounts, deren alle öffentlichen Notizen auf der Startseite von KI-Verwaltung veröffentlicht werden, wird die Plattform die Sperrung vornehmen.

Was die Beurteilung von KI-verwalteten Accounts angeht, sagte eine Person in der Nähe von Xiaohongshu gegenüber 36Kr, dass die Plattform die Veröffentlichungsverhalten der Accounts zusammen betrachtet, um zu entscheiden, ob ein Account von der KI automatisch gesteuert wird, und gleichzeitig eine Beschwerdeoption beibehalten hat.

Dieser Schritt von Xiaohongshu ist nicht nur der erste Schuss einer Mainstream-Inhaltsplattform auf KI-verwaltete Accounts, sondern auch das erste Mal, dass eine Mainstream-Plattform die Missbrauch von KI-Agent-Tools in Inhaltscommunities eindeutig reglementiert hat.

 Echtheit ist die Grenze

Warum hat Xiaohongshu sich entschieden, den ersten Schuss abzugeben?

Der Grund ist nicht kompliziert - die Existenz von KI-verwalteten Accounts widerspricht der von Xiaohongshu seit jeher propagierten Echtheit. Als eine UGC-Community, die von der echten Menschen-Teilen ausgeht, ist "Aufrichtigkeit und Echtheit" das Fundament von Xiaohongshu. Die UGC-Inhalte, die aus echten menschlichen Erfahrungen stammen, sind auch die Kernressourcen von Xiaohongshu.

Die lebendige Atmosphäre der Community hat es Xiaohongshu früher ermöglicht, sich im Internetwettbewerb einen Weg zu bahnen und hat auch das heutige Xiaohongshu geschaffen. Hinter der "Menschlichkeit" stecken die echten Erfahrungen und Äußerungen der Benutzer. Xiaohongshu hat offiziell einmal bekannt gegeben, dass zwischen Januar und November 2025 täglich mehr als 70 Millionen Kommentare auf Xiaohongshu erstellt wurden und monatlich etwa 200 Millionen Benutzer auf Xiaohongshu nach Kaufberatungen suchten.

Aber die Logik von KI-verwalteten Accounts liegt darin, Skalierung zu erreichen und Geld zu verdienen. Sobald das Inhaltsmodell funktioniert, wird es massenhaft kopiert und schließlich Werbung einfügt oder auf Warenlinks leitet. Es hat nichts mit menschlicher Kreativität zu tun, die Echtheit ist fragwürdig, geschweige denn die Produktion von hochwertigen Inhalten.

Wenn diese Accounts massenhaft in die Community eintreten, wird es unvermeidlich die Kernressourcen von Xiaohongshu allmählich angreifen. Die von KI generierten niedrigwertigen und homogenen Inhalte verdrängen die Verteilung von echten UGC-Inhalten und verdünnen das Gewicht von hochwertigen Inhalten. Noch wichtiger ist, dass wenn der leichte KI-Geschmack allmählich in die Community eindringt, werden die Benutzer im Laufe der Zeit schwierig unterscheiden können, ob es hinter dem Bildschirm ein echter Mensch oder ein Algorithmus ist. Dies wird schließlich das Vertrauen der Benutzer in die Plattform beeinträchtigen und die Grundlage der Community erschüttern.

Genau wie die Community der Boden für alle Werte von Xiaohongshu ist, sind UGC-Inhalte immer noch die Grundlage für die Kommerzialisierung von Xiaohongshu. Dies ist auch der Grund, warum das "Empfehlen" auf Xiaohongshu entstanden und bestätigt werden konnte. Heute vertrauen die Benutzer auf Xiaohongshu eher den Inhalten und sind eher geneigt, Kaufentscheidungen zu treffen. Im Wesentlichen liegt es daran, dass die Benutzer eher den Empfehlungen von normalen Menschen vertrauen als den allgegenwärtigen Werbeanzeigen.

Mit der Entwicklung der Empfehlungskultur ist Xiaohongshu bereits die letzte Station für die Kaufentscheidungen der Menschen geworden. Aber die KI-verwalteten Accounts haben eine Reihe von grauen Industrieketten hervorgebracht. Wenn diese Accounts sich als normale Benutzer-Notizen verstecken und zur Geldverdichtung leiten, werden die schwer zu unterscheidenden Inhalte nicht nur das Vertrauen der Benutzer schädigen, sondern auch den normalen Betrieb von Marken und Händlern auf Xiaohongshu stark stören.

Seit dem ersten Halbjahr des vergangenen Jahres hat Xiaohongshu speziell ein "Team zur Bekämpfung von falschen Werbung" gegründet, um die falschen Werbeinhalte auf der Plattform zu bekämpfen. Über 12 Millionen falsche Accounts wurden gesperrt. Damals wurden diese Accounts noch von menschlichen Teams betrieben. Wenn KI-verwaltete Accounts genutzt werden, würde die Anzahl exponentiell steigen. Die Bekämpfung von KI-verwalteten Accounts ist für Xiaohongshu auch eine "frühe Intervention".

Beispiel eines KI-verwalteten Accounts

Letztendlich ist diese Bekämpfungsaktion von Xiaohongshu der gemeinsame Schutz von Benutzern, Schaffenden und der Plattform - für die Benutzer schützt Xiaohongshu den Raum für echte Erfahrungen und verhindert, dass die Benutzer von falschen Inhalten irregeführt werden; für die Schaffenden wird eine faire und gesunde Schaffensumgebung gewahrt, damit die hochwertigen menschlichen Inhalte einen positiven Zyklus bilden und die entsprechende Aufmerksamkeit und Belohnung erhalten; für die Plattform wird der Kernwert der Community bewahrt und das Fundament der Plattform erhalten.

 Wo liegen die Grenzen von KI-Agenten?

Es ist zu beachten, dass Xiaohongshu bei der Bekämpfung von KI-verwalteten Accounts nicht alle KI-Technologien verbietet.

Tatsächlich sind KI-Agenten nicht unkontrollierbar. In der Community-Szene kann ihre vernünftige Anwendung Benutzern und Schaffenden helfen und die Inhaltsökosystem der Community bereichern.

Xiaohongshu hat diese Mal diejenigen Verhaltensweisen gesperrt, die vollständig auf KI-Verwaltung zur Veröffentlichung, Interaktion und sogar Verwaltung von Accounts angewiesen sind, aber es schränkt nicht die Schaffenden ein, KI-Technologien bei der Schaffung zu unterstützend zu nutzen. Mit anderen Worten, die Plattform legt wirklich Wert darauf, ob hinter der Produktion von Inhalten ein Mensch oder eine KI steht.

Schließlich können die echten Erfahrungen und Emotionen, die die Atmosphäre der Xiaohongshu-Community tragen, nur von Menschen stammen. Die emotionale Kommunikation zwischen Menschen kann keine KI ersetzen.

Deshalb, wenn KI-Agenten versuchen, die Echtheit der Community zu infiltrieren, haben sie die unüberschreitbare Grenze von Xiaohongshu verletzt - Technologie kann der Inhaltserstellung dienen, aber nicht zur Fälschung von Echtheit und zum Betrug der Benutzer genutzt werden.

Die Essenz der Community ist die "echte Verbindung zwischen Menschen". Der Wert der Technologie liegt darin, diese Verbindung zu unterstützen, nicht zu ersetzen. Menschen hoffen, dass KI ein Hilfsmittel für das Leben ist, aber sie möchten nicht, dass es spurlos in ihr Leben eindringt, zumindest nicht in der Rolle, die entscheidet, was sie sehen, sie induziert, betrügt oder sogar ihre Entscheidungen beeinflusst. KI-Agenten können als Unterstützung dienen, aber sie dürfen niemals Menschen als die Hauptakteure in der Community ersetzen.

Insbesondere für UGC-Communities wie Xiaohongshu, die auf Vertrauensbeziehungen basieren, suchen die Benutzer echte Erfahrungsberichte, aufrichtige Interaktionen und die Wärme zwischen Menschen, nicht die von Algorithmen sorgfältig verpackten falschen Inhalte, geschweige denn die von KI massenhaft produzierten "vorlagenbasierten Notizen". Sobald diese Echtheit gebrochen wird, wird die Kohäsion der Community aufgelöst und der Wert der Plattform zusammenbrechen.

Aber aus einer makroskopischen Perspektive ist die massenhafte Implementierung von KI-Agenten ein unvermeidlicher Trend. In gewissem Sinne stehen KI und Community nicht in einem gegensätzlichen Verhältnis. Nur wenn man die richtige Anwendungsgrenze findet, kann man eine symbiotische Existenz erreichen. Die Bekämpfung von KI-verwalteten Accounts durch Xiaohongshu ist nicht nur der Schutz seiner eigenen Community-Ökosystem, sondern auch eine Inspiration für die Branche bei der Anwendung von KI-Agent-Technologien in der Community-Szene.

Schließlich wird die dynamische symbiotische Existenz mit KI eine zukünftige Herausforderung für alle Inhaltsplattformen sein. Heute ist nur der Anfang.