KI identifiziert KI – das nächste hundert-Milliarden-Geschäft

Es hat die KI nur 5 Jahre gedauert, um die Geschwindigkeit der Inhaltsproduktion der gesamten Menschheit weltweit zu erreichen.

Seit Januar 2020 hat das Online-Forschungsunternehmen Graphite 54400 URLs stichprobenartig untersucht, um die KI-generierten Inhalte im Internet kontinuierlich zu verfolgen. Gleichzeitig wurden drei KI-Identifizierungstools – Pangram, Copyleaks und GPTZero – zur Erkennung eingesetzt. Wenn der von Menschen verfasste Anteil eines Artikels unter 50 % liegt, wird er als KI-generiert eingestuft.

Graphite stellte fest, dass im vierten Quartal 2025 die Anzahl der KI-generierten Inhalte im Internet die der von Menschen erstellten Originalinhalte überstieg und einen Anteil von 50,9 % erreichte. Im Januar 2020 lag dieser Wert noch bei 0,97 %. Genauer gesagt hat die KI nur 3 Jahre gebraucht, denn der Wendepunkt, an dem die KI-Inhalte sprunghaft anstiegen, war die Veröffentlichung von ChatGPT durch OpenAI im November 2022.

Quelle: Graphite

Von fast Null bis zu einem Marktanteil von der Hälfte hat die hohe Produktivität der KI die der amerikanischen Großschabe fast erreicht und beginnt sogar, den kreativen Raum der Menschen zu verdrängen. Einige abgeleitete Industrien nutzen den Ausbruch der Produktionskapazität, um mit der KI viel Geld zu verdienen, zum Beispiel Infrastrukturunternehmen, die Datenzentren für KI bauen, Energieunternehmen, die Server kühlen, sowie KI-Identifizierungstools.

Immerhin je heißer der Wettbewerb um die KI wird, desto stärker ist die Nachfrage des Marktes nach der Unterscheidung zwischen Wahrheit und Fälschung. Betrachtet man die Entwicklung über einen längeren Zeitraum, ist dies jedoch kein gutes Geschäft.

Ein offensichtliches Signal ist, dass der Schwierigkeitsgrad dieser Verteidigungskampagne exponentiell steigt. Derzeit erkennen die KI-Erkennungstools auf dem Markt hauptsächlich KI-Texte. Mit dem massiven Eindringen von Deepfake-Videos, KI-Bildern und KI-Audios in das Internet erstreckt sich der Erkennungsbereich von dem KI-Anteil eines Artikels darauf, wie viele echte Informationen es in der gesamten digitalen Welt noch gibt.

Dies bedeutet eine beunruhigende Realität: Die von KI hergestellten Fälschungen verbreiten sich massiv.

Eine neue Branche, die auf Angst aufbaut

Wenn Sie bereits Ihren Universitätsabschluss haben, scheint der Schaden, den die Verbreitung von KI bei Ihnen verursacht, Null zu sein. Höchstens müssen Sie bei der Arbeit an U-Bahn-Werbung vorbeigehen, die noch KI-Wasserzeichen trägt, und es gibt mehr Artikel mit maschinellem Geschmack in Ihrem Handy. Bevor Sie von Betrügern ins Visier genommen werden, ist das Leben noch ruhig.

Das Problem ist, dass die Begeisterung von Betrügern für das Erlernen von KI der der fleißigsten Mitarbeiter großer Technologieunternehmen nicht nachsteht. Die Deepfake-Technologie kann bereits sehr realistische Bilder, Stimmen oder Videos erzeugen. Sogar bei Videoanrufen von Angesicht zu Angesicht kann das Gesicht in Echtzeit ausgetauscht werden. Diese Technologie, die ursprünglich weit verbreitet in der Bildproduktion und bei virtuellen Moderatoren eingesetzt wurde, wird in den Händen von Betrügern zu einem scharfen Werkzeug für grenzüberschreitende Online-Betrug und die Verbreitung falscher Informationen.

Im Jahr 2024 erhielt ein Mitarbeiter eines multinationalen Unternehmens in Hongkong eine Phishing-E-Mail. Der Absender gab sich als CFO des britischen Hauptsitzes aus und lud ihn zu einer Gruppenkonferenz ein. Der CFO und die „Kollegen“ in der Konferenz waren in Wirklichkeit Betrüger, die mit öffentlichen Video- und Audiodaten die Deepfake-Technologie zum Austausch von Gesichtern nutzten. Auf ihre Anforderung hin überwies der Mitarbeiter schließlich 200 Millionen Hongkong-Dollar auf das Konto der Betrüger.

Quelle: CCTV.com

Nach Statistiken des Think Tanks CSO (Chief Security Officer) nutzten 2025 82,6 % der Phishing-E-Mails KI-Technologie. Die Anzahl der durch Deepfake angetriebenen Betrugsangriffe stieg um 2137 %. Die durch KI-gesteuerte Cyberangriffe verursachten globalen Schäden werden auf bis zu 30 Milliarden US-Dollar geschätzt. Im Vergleich zur Informationsflut durch die Verbreitung von KI-Texten müssen die Menschen mehr auf Betrüger achten, die die Vorteile der KI-Technologie nutzen.

Nicht nur Einzelpersonen, sondern auch Unternehmen leiden darunter. In diesem Sommer stellten die Dorfbewohner im Kreis Hengshan, Provinz Hunan, fest, dass unabhängig davon, auf welcher E-Commerce-Plattform sie Durian oder Kirsche bestellten, die Bestellung storniert wurde, solange die Lieferadresse der Kreis Hengshan war – selbst wenn die Ware versandt wurde, wurde sie abgefangen.

Der Grund dahinter war, dass ein Mann namens Tan aus dem Kreis Hengshan wahnsinnig viele Musang King-Durians und Kirschen kaufte. Nach Erhalt der Waren erzeugte er mit KI mit einem Klick Spuren von verrotteten und schimmeligen Früchten, schickte die Fotos an den Kundendienst der Plattform, um eine Rückerstattung zu beantragen, und stellte die Durians und Kirschen dann auf der Plattform Xianyu zum Weiterverkauf ein.

Nach mehr als 100 solchen Bestellungen wurden Tan und der gesamte Kreis Hengshan von den Händlern für Obst auf E-Commerce-Plattformen auf die schwarze Liste gesetzt.

Quelle: CCTV.com

Bei der schnellen Iteration der Technologie wird sie auch missbraucht. KI-Unternehmen verpacken teure Rechenleistung in günstige Tokens, senken die Schwelle für Fälschung und Betrug und werden zu einem Nährboden für akademisches Fehlverhalten, Finanzbetrug und Entschädigungsbetrug auf E-Commerce-Plattformen. Früher machten sich die Menschen Sorgen, ob KI ausreichend gute Inhalte erstellen kann, jetzt machen sie sich Sorgen, ob die Inhalte, die sie vor sich sehen, vertrauenswürdig sind. Hinter dem Komfort der Technologie verbirgt sich eine weit verbreitete Vertrauenskrise.

Die Identifizierung von KI mit KI ist genau die neue Branche, die in dieser Vertrauenskrise entstanden ist. Oberflächlich betrachtet beurteilen KI-Identifizierungstools, ob Bilder, Texte oder Videos von KI erstellt wurden. Was sie wirklich lösen, ist, Unternehmen, Organisationen und Einzelpersonen dabei zu helfen, die Risiken zu senken, die durch KI-Fälschungen entstehen.

Die globale KI-Polizei tritt an

Die KI-Texterkennungstools waren die ersten, die von dem Boom profitierten, indem sie auf den Bildungsmarkt abzielten – dies ist derzeit das To-C-Erkennungsgeschäft mit dem stabilsten Cashflow.

Menschen sind nicht ewig jung, aber es gibt immer junge Studenten, die Abschlussarbeiten schreiben. Im Ausland gibt es Plattformen wie Turnitin und GPTZero zur Erkennung von KI-verfassten Abschlussarbeiten. Inlandsysteme wie CNKI und VIP haben ebenfalls ihre eigenen AIGC-Erkennungsdienste eingeführt.

Seit der Gründung von GPTZero vor drei Jahren hat das Unternehmen insgesamt 13,5 Millionen US-Dollar an Finanzmitteln aufgenommen, und sein jährliches wiederkehrendes Einkommen hat bereits 30 Millionen US-Dollar (ca. 203 Millionen Yuan) erreicht. Die Anzahl der Nutzer von Turnitin übersteigt 71 Millionen, und das jährliche Einkommen beträgt 105 Millionen US-Dollar (ca. 709 Millionen Yuan).

Die meisten inländischen Tools zur Erkennung von Abschlussarbeiten haben ihr Gewinnmodell nicht offengelegt, aber KI-Texterkennungstools verdienen im Allgemeinen an beiden Seiten: Studenten abonnieren Mitgliedschaften oder zahlen nach Wörtern für Plagiatsprüfungsdienste; Universitäten und Bildungseinrichtungen erwerben jährliche Lizenzen für das System als Paket.

Weitere KI-Erkennungstools verdienen Geld mit Unternehmen, indem sie hauptsächlich API-Schnittstellen, SaaS-Abonnements oder kundenspezifische Lösungen anbieten – dies ist der Teil mit dem größten Wachstumspotenzial. Kunden kaufen eine Absicherung, keine 100% genaue Messung:

Zum Beispiel ist das KI-Risikobewertungssystem von Juntong Future sowohl für die Erkennung von KI-Halluzinationen als auch für die Identifizierung böswilliger Fragen von Nutzern zuständig. Das Unternehmen erhielt bei der Gründung eine Finanzierung in Höhe von mehreren zehn Millionen Yuan in der Angel-Runde, wurde weniger als zwei Jahre später profitabel und dient Kunden wie dem Ministerium für Industrie und Informationstechnologie, ByteDance, Hikvision und Ant Group. Die von Zhonghui Chuangjie entwickelte „Baize AI“-Halluzinationsmanagement-Engine kann Finanzbegriffe für intelligente Kundenservicesysteme von Banken in Echtzeit überprüfen, den Inhalt von Konsultationen in Online-intelligenten Kliniken validieren und eine KI-Inhaltsüberwachungsplattform für Netzverwaltungsbehörden bereitstellen, die täglich mehr als 2 Millionen AIGC-Inhalte verarbeitet. Drei Jahre nach der Gründung stieg der Umsatz von 500.000 Yuan auf 40 Millionen Yuan.

Laut dem Bericht des Beratungsunternehmens Dataintelo betrug der Markt für die Erkennung synthetischer Medien (KI-generierte Inhalte) 2025 3,8 Milliarden US-Dollar (ca. 25,7 Milliarden Yuan). Es wird erwartet, dass er bis 2034 22,6 Milliarden US-Dollar (ca. 152,5 Milliarden Yuan) erreichen wird, mit einer durchschnittlichen jährlichen Wachstumsrate von 21,9 %.

Die riesige Nachfrage auf dem B2B-Markt hat die KI-Identifizierung von einer Zusatzfunktion zu einer allgemeinen grundlegenden Infrastruktur gemacht. Sogar die Chipgiganten können nicht mehr tatenlos zusehen. Am 21. Juli 2026 kündigte Nvidia die Einführung des Dienstes zur Erkennung synthetischer Videos (Synthetic Video Detector NIM) an, der behauptet, KI-generierte gefälschte Videos Frame für Frame zu erkennen, mit einer Genauigkeit von bis zu 92 %.

Quelle: NVIDIA

Es verkauft Chips an KI-Unternehmen, baut die Mikroservice-Plattform NVIDIA NIM für Unternehmen und Entwickler zur Online-Bereitstellung von KI-Modellen und bietet jetzt auch KI-Videoerkennungsdienste an. In diesem KI-Goldrausch kann man sagen, dass Nvidia nicht nur Schaufeln und Verarbeitungsmaschinen verkauft, sondern jetzt auch Prüfsteine anbietet.

Daraus geht hervor, dass nicht unbedingt diejenigen am Tisch sitzen, die die fortschrittlichste Technologie haben, sondern oft diejenigen, die die Erkennungstools reibungslos in die Arbeitsabläufe der Kunden einbinden können.

Die meisten mehrdimensionalen KI-Erkennungstools für normale Nutzer basieren noch auf dem Modell der kostenlosen Testversion, und ihre praktische Anwendbarkeit muss noch validiert werden. Zum Beispiel bieten das KI-Erkennungsassistent „Zhuque“ von Tencent und das Mini-Programm „CamScanner AI Fälschungserkennung“ von Hehe Information Dienste zur Erkennung von Texten, Bildern und Videos an. Erst im letzten Monat hat die nationale Anti-Betrugs-App der Polizei die Funktion zur KI-Inhaltsidentifizierung eingeführt, die von Zhongke Ruijian technisch unterstützt wird. Man kann verdächtige Videos, Stimmen, Bilder und Texte hochladen, um mit einem Klick zu prüfen, ob Spuren von künstlicher Intelligenz vorliegen – man hat 10 Erkennungschancen pro Tag.

Quelle: Nationale Anti-Betrugs-App der Polizei

Ich habe drei kostenlose Produkte mehrere Runden lang ausprobiert (immerhin sind sie kostenlos). Das Mini-Programm „CamScanner AI Fälschungserkennung“ und der KI-Erkennungsassistent „Zhuque“ haben die KI-generierten Inhalte erfolgreich erkannt. Das Mini-Programm „CamScanner AI Fälschungserkennung“ teilte mir vorsichtig mit: „KI-Wahrscheinlichkeit 76,55 %, 515 Wörter sind verdächtig, von KI erzeugt zu werden“. Die nationale Anti-Betrugs-App der Polizei hat bei Texten und Bildern genau gemessen, aber bei der Videoerkennung gab es Fehler: Bei demselben von einer echten Person aufgenommenen Kurzvideo wurde einmal angezeigt, es sei echt, einmal, es sei von KI erzeugt. Es scheint, dass der Weg zur Betrugsbekämpfung noch lang ist.