"AI, die AI frisst, wird untergehen" ist eine falsche Behauptung. Das echte Produktrisiko liegt im Fehlen eines Datenkorrekturmechanismus.

Neue Forschungsergebnisse in Nature zeigen die Degradationsspur von KI unter extremen Bedingungen auf, aber die Realität ist weitaus komplexer als das Experiment. Dieser Artikel zerlegt drei kognitive Irrtümer aus Produktperspektive, schlägt ein RAID-Modellrahmenwerk vor, das auf Datenverankerung, Korrektur, Intelligenz und Überwachung basiert, zeigt eine hierarchische Verteidigungsstrategie von medizinischer KI bis hin zu Unterhaltungsprodukten und weist zudem auf die Datenpipelinengestaltungsfähigkeiten, die KI-Produktmanager in der aktuellen Phase beherrschen müssen, sowie auf Chancen in Schwellenmärkten hin.

Modellkollaps?

Im Juli 2024 veröffentlichte Nature auf dem Titelblatt die Studie von Shumailov et al., die das Phänomen des Modellkollapses (Model Collapse) systematisch aufdeckt: Bei vollständig geschlossenem rekursivem Training verliert das KI-Modell in der neunten Generation seine gesamte Glaubwürdigkeit – die Ausgabe von mittelalterlichen Architekturen entartet zu nicht existierenden Kaninchenarten.

Der KI-Index-Bericht 2026 der Stanford University zeigt, dass der Anteil der KI-generierten Inhalte an neu veröffentlichten Internetinhalten 51,72 % erreicht. AWS-Forschungen zeigen, dass etwa 57 % der Online-Texte bereits von KI verarbeitet wurden. Hochwertige menschliche Textdaten könnten frühestens zwischen 2026 und 2032 erschöpft sein. Synthetische Daten werden aufgrund ihrer Kostenvorteile (0,06 US-Dollar für synthetische Bilder gegenüber 6 US-Dollar für manuelle Beschriftung) branchenweit abhängig.

Vor diesem Hintergrund verbreitet sich die pessimistische These, dass „KI, die ihre eigenen Ausgaben verbraucht, untergehen wird“, weitverbreitet.

Aber als Produktpraktiker müssen wir uns von emotionalen Narrativen lösen und das Problem aus der Perspektive von Ingenieurwesen und Produkt analysieren.

Drei kognitive Irrtümer beim Modellkollaps

Irrtum 1: Extremexperimentbedingungen mit der Realität gleichsetzen

Die experimentelle Voraussetzung der Nature-Arbeit ist ein vollständig geschlossener Zyklus – jede Generation verwendet nur die Ausgabe der vorherigen KI-Generation, ohne jegliche menschliche Daten. Dies ist eine theoretische Extrembedingung und entspricht nicht realen Szenarien.

Die Schlussfolgerungen von Experimenten unter Extrembedingungen auf die Realität zu übertragen, ist ein Fehler der Verallgemeinerung von Einzelfällen.

Irrtum 2: Das rekursive Analogon der menschlichen Zivilisation ignorieren

Die Entwicklung der menschlichen Zivilisation ist selbst ein rekursiver Prozess: Die überwiegende Mehrheit der Menschen nutzt die Ergebnisse, die von einer Minderheit geschaffen wurden, ohne originelles Wissen zu erzeugen. Dennoch schreitet die Zivilisation stetig voran, weil Menschen Mechanismen zur Fehlerkorrektur etabliert haben.

Rekursionsmodell der menschlichen Zivilisation:

Originelle Kreation durch eine Minderheit → Übernahme durch die Mehrheit → Funktionieren des Fehlerkorrekturmechanismus (experimentelle Validierung / Peer-Review / reales Feedback) → Iteration und Verbesserung des Wissens

Die Lehre aus der mittelalterlichen Scholastik: Reine geschlossene Rekursion (nur Zitieren von Klassikern ohne experimentelle Validierung) → Stillstand über Jahrtausende. Der Durchbruch der wissenschaftlichen Revolution: Einführung der experimentellen Validierung (Verankerung in der realen Welt) → Aufstieg der Zivilisation.

Rekursion an sich ist kein Problem – das Fehlen eines Fehlerkorrekturmechanismus ist es.

Dieses Prinzip gilt auch für KI.

Irrtum 3: Vorhandene Lösungen ignorieren

Im Jahr 2025 schlug das LUMIA-Labor der Shanghai Jiao Tong University in Zusammenarbeit mit der Tsinghua-Universität, der Peking-Universität und dem Beijing Academy of Artificial Intelligence die Methode der „markierungsbasierten Bearbeitung“ (Token-Level Editing) vor, die auf der ICML 2025 veröffentlicht wurde.

Der Kerngedanke ist nicht, synthetische Daten abzulehnen, sondern synthetische Daten auf feine Weise auf Markierungsebene zu korrigieren, um die Long-Tail-Verteilungseigenschaften realer Daten zu erhalten.

Im Mai 2026 veröffentlichten Forschungsteams der Norwegischen Universität für Wissenschaft und Technologie und des King’s College London eine Arbeit in *Physical Review Letters*: Schon eine einzige echte Datenpunkt während des Trainings kann den Modellkollaps wirksam verhindern.

Selbst wenn diese Daten weit weniger sind als die von KI generierten Daten, selbst wenn die generierten Daten unbegrenzt zunehmen.

Produktrahmen: Gestaltung des Fehlerkorrekturmechanismus für KI-Produktdaten

Aus der obigen Analyse kann ein Gestaltungsrahmen für die Trainingsdatenpipeline von KI-Produkten abgeleitet werden, den ich als „Datenverankerungs-Korrektur-Intelligenz-Überwachungs-Modell“ bezeichne.

【Datenverankerung】 – Verankerung mit echten Daten

In jeder Generation der Trainingsdatenpipeline wird ein bestimmter Anteil echter menschlicher Daten als Ankerpunkt zwingend beibehalten.

Wesentliche Punkte der Produktgestaltung:

Definition des Standards für „echte Daten“: von Menschen erstellt, von Autoritäten validiert, mit Long-Tail-Verteilungseigenschaften

Festlegung einer harten Regel für den Anteil echter Daten: In Schlüsselbereichen (Medizin/Recht/Finanzwesen) ≥ 50 %, in allgemeinen Bereichen ≥ 30 %

Aufbau eines Managementsystems für die Quellen echter Daten: professionelle Inhaltserstellung, nutzergenerierte Inhalte (UGC), Lizenzen für autorisierte Daten

Gestaltung eines Mechanismus für die Aktualität echter Daten: regelmäßige Ergänzung neuer menschlicher Daten, um veraltete Ankerpunkte zu vermeiden

Produktentscheidung: Echte Daten sind eine knappe Ressource, bei der zwischen Kosten und Qualität abgewogen werden muss.

Es wird empfohlen, die Produkte nach Risikostufe hierarchisch zu verwalten – Hochrisikoprodukte (medizinische KI) mit hohem Verankerungsanteil, Niedrigrisikoprodukte (Unterhaltungs-KI) können den Anteil angemessen senken.

【Korrektur】 – Iterative Fehlerbehebung

Ein Fehlerkorrekturschritt wird in die Trainingsschleife eingebettet, um nach jeder Generation des Trainings eine Qualitätsbewertung und eine Feedbackkorrektur sicherzustellen.

Wesentliche Punkte der Produktgestaltung:

Gestaltung von Qualitätsbewertungsindikatoren nach dem Training: Vielfalt der Ausgaben, Abdeckung von Long-Tail-Wissen, faktische Genauigkeit

Aufbau eines Degradationserkennungsmechanismus: Vergleich der Verteilungsunterschiede zwischen der Ausgabe jedes Modells und der vorherigen Generation, um frühe Signale des Kollapses zu erkennen

Gestaltung von Regeln für die Auslösung der Fehlerkorrektur: Automatische Aktivierung des Fehlerkorrekturprozesses, wenn der Degradationsindikator einen Schwellenwert überschreitet

Aufbau einer Ausführungspipeline für die Fehlerkorrektur: Einbeziehung echter Daten, Anpassung des Anteils synthetischer Daten, Anwendung von Methoden wie ToEdit

Produktentscheidung: Die Häufigkeit der Fehlerkorrektur ist ein Schlüsselparameter.

Menschen korrigieren Fehler im Jahrestakt (Veröffentlichungszyklus von Arbeiten), KI kann im Stundentakt korrigieren (automatische Bewertung + automatische Auslösung).

Es wird empfohlen, eine automatisierte Fehlerkorrekturpipeline zu gestalten, um Verzögerungen durch menschliche Eingriffe zu reduzieren.

【Intelligenz】 – Intelligente KI-Datenerkennung

KI-generierte Inhalte im Trainingsdatenpool werden erkannt und markiert, um ein rückverfolgbares System für die Datenquellen aufzubauen.

Wesentliche Punkte der Produktgestaltung:

Einsatz von KI-Inhaltsdetektoren: Bewertung der Wahrscheinlichkeit, dass Daten (die gesammelt/gekauft wurden) von KI generiert wurden

Aufbau eines Quellentagsystems für Daten: Markierung der Quelle jedes Datensatzes (menschlich erstellt / KI-generiert / gemischt)

Gestaltung eines Warnmechanismus für Datenverunreinigung: Auslösen einer Warnung, wenn der Anteil von KI-Inhalten im Datenpool einen Schwellenwert überschreitet

Aufbau einer Rückverfolgungskette für Daten: Die gesamte Kette von der Datenerfassung bis zum Modelltraining ist rückverfolgbar

Produktentscheidung: Die Genauigkeit der KI-Inhaltserkennungstechnologie liegt derzeit bei etwa 80–90 %, es besteht das Risiko von Fehlurteilen.

Es wird empfohlen, sie als Hilfssignal und nicht als absoluten Standard zu verwenden, in Kombination mit menschlicher Prüfung.

【Überwachung】 – Verteilungsüberwachung

Die Verteilungseigenschaften von Trainingsdaten und Modellausgaben werden kontinuierlich überwacht, um Moduskollaps und das Verschwinden des Long Tails zu verhindern.

Wesentliche Punkte der Produktgestaltung:

Überwachung der Verteilung von Trainingsdaten: Wortvielfalt, Themenabdeckung, Anteil des Long-Tail-Wissens

Überwachung der Verteilung der Modellausgaben: Indikatoren für die Vielfalt der Ausgaben, Wiederholungsrate, Neuheitswert-Bewertung

Gestaltung von Warnungen bei Verteilungsabweichungen: Warnung, wenn die Abweichung zwischen der Ausgabeverteilung und der Zielverteilung einen Schwellenwert überschreitet

Aufbau eines Mechanismus zur Verteilungsreparatur: Behebung von Abweichungen durch Techniken wie Datenanreicherung und Verteilungskorrektur

Produktentscheidung: Die Verteilungsüberwachung ist das „Frühwarnsystem“ für Modellkollaps.

Es wird empfohlen, ein Echtzeit-Überwachungsdashboard für die Verteilung im Produkt zu gestalten, damit Produktmanager und Ingenieure den Gesundheitszustand der Daten intuitiv einsehen können.

Anwendungsbereiche des Modells

Anteil echter Daten: Medizinisches KI-Produkt > Rechts-KI-Produkt > Allgemeine Konversations-KI > Inhaltsgenerierungs-KI > Unterhaltungs-KI-Produkt

Erkennungsgenauigkeit: Hohe Genauigkeit, Standardgenauigkeit, Grundgenauigkeit

Häufigkeit der Fehlerkorrektur: Einmalig, Regelmäßig, Nach Bedarf

Überwachungsfrequenz: Echtzeit, Täglich, Wöchentlich, Monatlich

Kernurteile

1. Modellkollaps ist nicht das Ende der KI.

Es zeigt nicht die Obergrenze der KI-Technologie auf, sondern die Schwächen der Datenpipeline.

2. Die These „KI, die KI verbraucht, wird untergehen“ ist eine Falschaussage.

Das eigentliche Risiko liegt nicht in der Rekursion an sich, sondern in der geschlossenen Rekursion ohne Fehlerkorrekturmechanismus.

Die erfolgreiche Rekursion der menschlichen Zivilisation beweist: Rekursion mit Fehlerkorrekturmechanismus ist ein Fortschrittsmotor, Rekursion ohne Fehlerkorrekturmechanismus ist eine Degradationsspirale.

3. Menschen haben ein eigenes Bewusstsein, KI hat erweiterte Fähigkeiten.

Die beiden Evolutionspfade sind unterschiedlich, aber beide gangbar.

Die stündliche Fehlerkorrekturfrequenz der KI ist weit höher als die jährliche der Menschen – das ist der einzigartige Vorteil von KI.

4. Die Kernkompetenzen von KI-Produktmanagern verändern sich.

Von der Fokussierung auf Modellparameter und Funktionsgestaltung erweitert sich der Bereich auf die Qualitätsverwaltung von Trainingsdaten und die Gestaltung von Fehlerkorrekturmechanismen.

Das RAID-Modell bietet einen umsetzbaren Rahmen.

5. Die größte Produktchance, die durch den Modellkollaps entsteht, liegt in der KI-Dateninfrastruktur.

Verwaltung von Vermögenswerten echter Daten, Qualitätstechnik für synthetische Daten, Plattformen für die mensch-KI-kollaborative Validierung – dies sind neue Bereiche für KI-Produkte.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Jeder ist ein Produktmanager“ (ID: woshipm), Autor: Sen Linyu, veröffentlicht mit Genehmigung von 36Kr.