Je mehr KI-Müll es im Internet gibt, desto wertvoller sind echte Menschen.

Das Internet wird immer langweiliger. Wenn du auf Dianping oder Xiaohongshu nach ehrlichen, aufrichtigen Meinungen suchst, stellst du fest, dass dich die Nutzer sogar wegen einiger Nachspeisen täuschen.

Sie loben die Produkte über alle Maßen, und wenn ihnen keine lobenden Worte mehr einfallen, nutzen sie KI dafür – allein auf Dianping wurden im vergangenen Jahr 11,61 Millionen von KI generierte Bewertungen bearbeitet und entfernt.

Darüber hinaus sind KI-generierte Texte, Bilder und Videos auf allen sozialen Netzwerken, Inhaltsplattformen und Einkaufsseiten allgegenwärtig. Kurz gesagt: Man hat das Gefühl, dass es im Internet kaum noch „echte Menschen“ gibt.

Die meisten Plattformen verhalten sich nach dem Einfluss der KI widersprüchlich. Anfangs ermutigten sie die Nutzer noch, KI intensiv zum „Erstellen von Inhalten“ zu nutzen. Als aber die KI-Inhalte gleichförmig auftauchten und den ursprünglichen „Wert“ der Plattform verwässerten, gerieten sie in Panik.

Technologieplattformen beginnen, KI-Müll abzulehnen

Die ersten, die darunter leiden, sind diejenigen, die die KI zuerst angenommen haben.

Nehmen wir LinkedIn als Beispiel: Es hat die Nutzer ursprünglich aktiv ermutigt, Beiträge mit KI zu verfassen, um berufliche Erkenntnisse, Managementerfahrungen und Projektauswertungen zu schreiben (wofür KI tatsächlich gut geeignet ist). Aber mit der Zeit werden die Artikel im Feed immer ähnlicher: gleichförmige Einleitungen, dreigliedrige Zusammenfassungen und Dankesworte an das Team. Jeder Artikel wirkt sehr seriös, aber es ist, als würde dieselbe Person hunderte verschiedene Profilbilder nutzen.

Der französische Streaming-Anbieter Deezer gibt an, dass fast die Hälfte der neuen Songs, die täglich auf die Plattform hochgeladen werden, von KI erzeugt wird und nach dem Hochladen kaum echte Zuhörer findet. Die Wiedergabezahlen und Empfehlungen werden durch Klicks manipuliert.

Sie sind auch die Ersten, die Widerstand leisten. In diesem Jahr hat LinkedIn einen neuen Meldebutton mit der Aufschrift „Sieht aus wie KI-Müll“ hinzugefügt. Nach der Veröffentlichung wurde er von den Nutzern massiv angeklickt, sodass die Aufrufe von „KI-Berufsartikeln“ um 40 % gesunken sind.

Gemeldete „Texte“ werden von LinkedIn in der Reichweite beschränkt ｜ LinkedIn

Spotify hat im vergangenen Jahr 75 Millionen Musikstücke als Müll entfernt, von denen ein großer Teil von KI geschrieben wurde.

Pinterest und TikTok überlassen den Nutzern die Entscheidung, ob sie KI-Inhalte sehen wollen. Pinterest erlaubt es den Nutzern, die Anzahl der KI-Bilder auf der Startseite zu verringern, und TikTok testet eine ähnliche Anpassungsfunktion.

Snapchat ist noch entschlossener. Seit Juli dieses Jahres können rein von KI generierte Videos nicht mehr in die Spotlight-Empfehlungen aufgenommen werden. Werke, die von echten Menschen aufgenommen und mit KI bearbeitet wurden, können nur dann von dem Algorithmus empfohlen werden, wenn sie mit einem KI-Markierung versehen sind.

Instagram führt ebenfalls Prüfungen und Reichweitenbeschränkungen für KI-Inhalte durch ｜ Meta

Die verschiedenen Plattformen scheinen plötzlich eine Erkenntnis gewonnen zu haben: Das bloße Wachstum der Inhaltsmenge bringt den Verbrauchern keinen Mehrwert.

In der Vergangenheit konkurrierten die Plattformen um das Inhaltsangebot: Je mehr Videos eine Plattform hatte, je reichhaltiger ihre Community und ihre Beiträge waren, desto wahrscheinlicher blieben die Nutzer. Nach dem Aufkommen der generativen KI nahmen alle Plattformen zunächst eine einladende Haltung ein, schließlich lassen sich mit niedrigen Kosten massenhaft Inhalte erzeugen.

In der Realität aber führt der von KI erzeugte Inhalt nach einer kurzen Phase der Neuheit schnell zu gleichförmigen Wiederholungen. Nach ein paar Bildschirmen voller KI-generierter Katzen- und Hundefotos merkt man, dass die von KI geschriebenen Lieder voller technischer Tricks sind, aber keinerlei Gefühl enthalten.

Auf der Produktionsseite konkurrieren KI-Inhalte mit echten menschlichen Urhebern um Ressourcen. Die Plätze auf der Empfehlungsseite, die Lizenzgebührenpools der Musikplattformen und die Budgets der Werbetreibenden sind begrenzt. Wenn die Aufmerksamkeit der Nutzer von KI übernommen wird, verlieren die Urheber an Sichtbarkeit und Einnahmen. Mit der Zeit werden genau die Inhalte verdrängt, die die Nutzer ursprünglich mochten.

Es ist sehr schwierig, Nutzer dazu zu bringen, für KI-Inhalte zu bezahlen, was sehr hohe Anforderungen an die Inhaltsqualität stellt. Die Plattformen haben auch nicht mehr Geld verdient, indem sie diese „billigen Inhalte“ zugelassen haben.

Jetzt stehen die Plattformen vor enormen Bereinigungskosten: Konten identifizieren, Meldungen bearbeiten, Empfehlungsregeln anpassen und sogar versehentlich echte Urheber benachteiligen...

KI wird auch von „Kommentarmassen“ verseucht

„Doubao hat das gesagt“, „Doubao hat jenes gesagt“. Viele Menschen nutzen KI heute direkt als Suchmaschine und glauben, dass KI objektiver ist als Werbeblogger, wenn man fragt: „Welches Spray eignet sich für empfindliche Haut?“

Da liegst du falsch.

Nehmen wir ein Beispiel. Reddit, das als ausländische Version von Xiaohongshu gilt, ist eigentlich eher eine Mischung aus Xiaohongshu, Tieba und Douban-Gruppen. Die Beiträge hier sind nicht unbedingt autoritativ, aber sie enthalten eine Menge deutlicher, echter persönlicher Nutzungserfahrungen, und in den Kommentarbereichen gibt es viele widersprechende und entlarvende Stimmen.

In der Vergangenheit haben die Menschen bei der Nutzung traditioneller Suchmaschinen die Gewohnheit, nach dem Suchbegriff „site:“ hinzuzufügen, um die Relevanz der Ergebnisse zu erhöhen. Communities wie Reddit und Xiaohongshu, die einen hohen Anteil an „echten Menschen“ haben, verfügen über eine große Menge an „menschlichen Korpora“, die noch nicht verseucht (von Werbeaccounts oder KI) sind.

Quelle: Reddit

Dieser „Echtheitsgehalt“ ist im KI-Zeitalter besonders wertvoll. Google und OpenAI haben nacheinander Kooperationen mit Reddit geschlossen, um Inhalte aus der Community als Trainingsdaten für große Modelle zu erhalten. Aber unerwarteterweise haben auch Werbetreibende und Werbeaccounts diese Plattform im Blick.

In der Werbebranche sind neue Methoden entstanden: AEO (Answer Engine Optimization, Optimierung von Antwortmaschinen) und GEO (Generative Engine Optimization, Optimierung von generativen Maschinen). Früher ging es bei SEO darum, auf der ersten Seite der Suchergebnisse von Google und Baidu zu stehen. Bei AEO und GEO geht es jetzt darum, dass die „ChatGPTs“ den Namen des Unternehmens als Erstes nennen, wenn sie eine Frage beantworten.

Zum Beispiel postet jemand in der Hautpflege-Community von Reddit eine Frage, ob ein Spray gut wirkt, das gegen Pickel und Rötungen hilft. Unter dem Beitrag schreibt ein hilfsbereiter „Nutzer“ einen langen Kommentar: Zuerst gibt er ehrlich zu, dass er die genannte Marke nicht ausprobiert hat und sie nicht bewerten kann. Dann weicht er vom Thema ab und stellt ein ähnliches Produkt von Honeydew Labs vor, das er kürzlich nutzt und das sehr gut wirkt. Er schreibt ausführlich über die Konzentration von unterchloriger Säure im Produkt, wie mild es für empfindliche Haut ist und welche Anerkennungen es von Institutionen erhalten hat. Wenn man die Profilseite dieses Nutzers öffnet, stellt sich heraus, dass er bei jedem Gespräch über irgendein Produkt immer wieder auf Honeydew Labs zu sprechen kommt – und er ist nicht nur in einer Hautpflege-Community aktiv.

Quelle: Reddit

So ein bekanntes Muster...

Die Menschen hassen gefälschte Kommentare und versteckte Werbung zutiefst. „Die Umgebung ist elegant, der Service ist herzlich, die Gerichte sind vielfältig...“; „Der Schnitt ist schmeichelhaft für die Figur, der Stoff ist angenehm zu tragen, die Nähte sind sauber verarbeitet, die Lieferung ist schnell...“ – eine Bewertung, die alles abdeckt, aber nicht erwähnt, ob das Gericht salzig oder mild ist oder ob die Hose an der Taille drückt, kann man direkt überspringen.

Aber genau solche Inhalte sind für KI besonders verträglich.

Wenn man Markennamen, geeignete Hauttypen, Nutzungseffekte, Inhaltsstoffkonzentrationen und Institutionelle Anerkennungen so detailliert wie möglich auflistet, ist das wie eine „Fertigmahlzeit“, die man der KI füttert.

Für Menschen ist das „eine Marke, die überall versteckte Werbung veröffentlicht“, aber die KI erfasst, dass „in mehreren Diskussionen Empfehlungen für XXX auftauchen“ – der Inhalt ist direkt, reichhaltig und umfassend.

So etwas gibt es zuhauf: Auf allen Plattformen gibt es eine Menge sich wiederholender, nutzloser Inhalte, Werbung und KI-generierter (Müll-)Inhalte, die als „Nährstoff“ für die KI gefüttert werden.

Aber warum sollte die KI darauf unbedingt hereinfallen?

Forscher der Cornell Tech haben in diesem Jahr ein Experiment durchgeführt, um zu prüfen, ob sie die Ausgabenergebnisse von KI beeinflussen können.

Sie stellten drei Open-Source-KI-Forschungstools 176 Fragen und notierten, welche Quellen die KI zur Beantwortung dieser Fragen heranzog.

Rund 20 % aller Quellen der drei KI-Tools stammen aus UGC-Communities, und davon macht Reddit mehr als die Hälfte aus. Reddit macht etwa 12 % aller erfassten URLs aus, also ungefähr eine von acht Quellen. Gleichzeitig ändert sich die Auswahl der Quellen nicht, wenn man die gleiche Frage auf unterschiedliche Weise stellt.

Die Forscher kamen auf die Idee: Wenn man in einigen häufig indizierten Beiträgen „Zusätze“ einbaut, kann man dann die Ausgabenergebnisse der KI beeinflussen?

Sie haben ein Experimentalsystem entwickelt und „ergänzte Kopien“ von häufig indizierten Beiträgen erstellt. Sie stellten die 176 Fragen auf unterschiedliche Weise ein, und als sie erkannten, dass die KI diese häufig genutzten Beiträge indizierte, ersetzten sie die Originalbeiträge sofort durch die „ergänzten Kopien“, damit die KI sie lesen konnte (die Nutzung von Kopien dient dazu, das Internet nicht zu verseuchen).

Das Ergebnis der Studie: Sobald die KI diese Kopie liest, haben die von den Forschern hinzugefügten Inhalte eine Wahrscheinlichkeit von 38 % bis 51 %, im endgültigen Bericht zu erscheinen – das können erfundene Restaurants, Dating-Apps oder Produkte sein.

Wenn mehrere Quellen, die von einer Frage indiziert werden, gleichzeitig mit Werbung verseucht sind, liegt dieser Anteil bei bis zu 62 %. Die kürzeste „versteckte Werbung“ braucht nur 13 englische Wörter, um von der KI in die Antwort aufgenommen zu werden.

Diese Studie von Cornell soll bestätigen, dass die „Manipulation von KI-Antworten“ technisch machbar ist und dass gezieltes Verteilen die Wahrscheinlichkeit erhöhen kann. Es ist, als würde man überall Bananenschalen verteilen – es wird immer jemanden geben, der darauf ausrutscht.

Vor dem Aufkommen der KI wurden die unverseuchten menschlichen Textkorpora als „Datengold“ für das Training großer Modelle angesehen. Aber die Glaubwürdigkeit, die diese Communities und Inhaltsplattformen über Jahre aufgebaut haben, ist zu einer Lücke geworden, die es sich zu nutzen lohnt.

Wenn du das nächste Mal die KI fragst: „Welches Spray eignet sich für empfindliche Haut?“, solltest du gut überlegen, ob die Antwort, die sie dir gibt, wirklich objektiv ist.

Das Zeitalter des Aufschlags für echte Menschen

Das Aufkommen der KI hat die Menschen stark getroffen. Die Geschwindigkeit, mit der KI Wissen anhäuft, übertrifft die einzelner Menschen bei weitem. Sie gibt vor, „dir bei der Arbeit zu helfen“, will aber in Wirklichkeit die Arbeitsplätze ersetzen, von denen die Menschen leben.

Auf der anderen Seite hebt die KI aber den Wert des „echten Menschen“ hervor.

KI ist gut darin, „annähernd passende“ Inhalte zu erzeugen, aber da sie nur Inhalte zusammenfügen kann, hat sie keine berührenden echten Erfahrungen, keine scharfen persönlichen Urteile und keinen individuellen Geschmack. Sie kann ohne Kosten und ohne das Produkt je in der Hand gehabt zu haben schnell eine Produktbewertung schreiben, weil sie keine Konsequenzen tragen muss. KI kann nur „für etwas bürgen“, aber keine Verantwortung übernehmen – die Identität einer Person, die Verantwortung, die sie trägt, ihre vergangenen Erfahrungen und so weiter bilden ihre einzigartige Glaubwürdigkeit.