StartseiteArtikel

Achtung: ChatGPT und Gemini versagen, große KI-Sprachmodelle verbreiten massenhaft gefälschte Einkaufswebseiten

雷科技2026-11-19 12:07
leitet dich im Handumdrehen auf eine Phishing-Website weiter

Kürzlich wurde in einer neuen Studie ein sehr alarmierendes Problem aufgedeckt: KI-Chatbots empfehlen Nutzern aktiv gefälschte Einkaufswebsites.

Der Markenschutzdienstleister Podqi hat eine Reihe von Tests durchgeführt, die insgesamt 151 verschiedene Marken abdecken.

Die Testergebnisse zeigen, dass die Wahrscheinlichkeit, dass Perplexity riskante URLs ausgibt, bis zu 15 % beträgt. Bei ChatGPT und Gemini sieht die Lage nicht viel besser aus, ihr Fehleranteil liegt nicht weit davon entfernt.

Viele Menschen haben sich bereits daran gewöhnt, vor dem Einkauf zuerst die KI zu fragen.

Quelle: Generiert von Doubao AI

Wenn man die regionale offizielle Website einer bestimmten Marke sucht, stellt man der KI einfach eine Frage und erhält schnell eine ordentlich formatierte Antwort, die besonders vertrauenswürdig aussieht.

Was Sie jedoch nicht wissen: Der Link, den sie Ihnen gibt, ist höchstwahrscheinlich überhaupt nicht die echte offizielle Website.

Das Technikmedium The Verge berichtete im vergangenen Herbst über diese Untersuchung von Podqi, darunter ein sehr typisches Beispiel: Jemand fragte Perplexity nach der offiziellen Website der Streetwear-Marke Stüssy, und die KI übermittelte dem Nutzer direkt eine gefälschte Seite als echte offizielle Website und teilte ihm mit, dass man auf dieser Seite Originalprodukte kaufen könne.

Neben der willkürlichen Empfehlung gefälschter Websites durch die KI gibt es noch ein weiteres Problem bei digitalen Betrügereien: Viele Apps und Plattformen verfolgen heimlich das Verhalten der Nutzer und sammeln Informationen. Diese versteckten Gefahren überlagern sich und machen es uns beim Online-Einkauf leichter, in Fallen zu tappen.

Viele Menschen reagieren auf solche Nachrichten zunächst mit dem Zweifel, ob die Tests nicht streng genug durchgeführt wurden.

Aber das Testkonzept von Podqi ist dieses Mal sehr klar ausgerichtet und sehr zurückhaltend gestaltet, sodass die daraus gezogenen Schlussfolgerungen nicht einfach ignoriert werden können.

Sie haben speziell für Einkaufsszenarien eine Reihe von Prompts verfasst und die Tests in zwei Zeiträumen im September gleichzeitig auf den drei gängigen KI-Tools ChatGPT, Google Gemini und Perplexity durchgeführt.

Die Testobjekte umfassten sowohl große bekannte Marken als auch viele Nischenmarken, insgesamt 151. Während des gesamten Tests gab die KI insgesamt 6795 Antworten aus. Die Fragen waren genau die, die normale Menschen im Alltag stellen: Wo man diese Marke kaufen kann, welche Websites ihre Produkte anbieten, ob es spezielle Online-Shops für das Inland oder andere Regionen gibt und ob man auf der internationalen offiziellen Website direkt bestellen kann.

Zuerst muss man die Definition von „risikoreichen Websites“ bei Podqi klären – ihr Geltungsbereich ist breiter als man denkt.

Alle Seiten, die reguläre Einzelhändler nachahmen, Seiten, die ausschließlich gefälschte Waren verkaufen, und Websites, deren Domain nach Ablauf der Gültigkeit von Dritten erworben und für böswillige Zwecke missbraucht wird, zählen zu den risikoreichen Seiten.

Das heißt, selbst wenn diese Website noch nicht mit Betrug Geld erbeutet, besteht ein potenzielles Betrugsrisiko, sobald die Domain in den Händen unzuverlässiger Personen liegt.

Unter den drei Tools ist ChatGPT relativ zuverlässiger: Wenn es risikoreiche Websites ausgibt, wird in 24 % der Fälle ein Risikohinweis hinzugefügt.

Aber dieser Warnmechanismus ist instabil und hat keine festen Standards – ob Sie eine Warnung erhalten, hängt rein vom Glück ab.

Wenn Sie dem von der KI angegebenen Link folgen und auf eine gefälschte Website gelangen, geraten Sie leicht Schritt für Schritt in eine Falle.

Quelle: Generiert von Doubao AI

Bei der Bestellung müssen Sie persönliche Daten wie Bankkarteninformationen, Zahlungspasswörter, Kontologin-Passwörter und Mobiltelefonnummern eingeben – diese Daten gelangen direkt in die Hände der Betrüger.

Nachdem die Nachricht veröffentlicht wurde, haben alle drei KI-Hersteller reagiert.

Google erklärte, dass Gemini Quelllinks hinzufügt, damit Nutzer die Informationen selbst überprüfen können, und räumte gleichzeitig offen ein, dass KI selbst Fehler machen kann.

OpenAI teilte mit, dass das Team den Schutzmechanismus aktualisiert, um solche irreführenden Einkaufsinformationen so weit wie möglich zu reduzieren.

Perplexity äußerte sich etwas direkter: Es garantiert keine hundertprozentige Genauigkeit seiner Inhalte und wird die Informationsgenauigkeit in Zukunft weiter optimieren.

Nach alledem ist das Wichtigste, wie normale Menschen sich selbst schützen können.

Trevor West, CEO von Podqi, rät allen: Die von der KI angegebenen Links dürfen nur als Hinweis betrachtet werden.

Sobald Sie bereit sind, persönliche Daten einzugeben oder zu bezahlen, müssen Sie unbedingt die Echtheit der Website separat überprüfen. Die beste Methode ist, nicht direkt auf den von der KI angegebenen Link zu klicken, sondern die Adresse der offiziellen Website der Marke, der Sie vertrauen, manuell einzugeben. Überprüfen Sie nach der Eingabe noch einmal die Domain. Vor der Bestellung sollten Sie sich auch die Kontaktkanäle und die Rückgaberichtlinien des Shops ansehen – seriöse Händler geben all diese Informationen klar an.

Heutzutage gewöhnen sich immer mehr Menschen daran, KI als universellen Suchassistenten zu nutzen und bei Einkäufen oder der Suche nach Kanälen zuerst die KI zu fragen.

Aber im Wesentlichen erzeugt KI Inhalte auf Basis vorhandener Informationen. Sie kann nicht unterscheiden, welche Informationen im Internet wahr sind und welche von Betrügern gefälscht wurden, und gibt leicht gefälschte Inhalte als Tatsachen aus.

Wir können nicht vollständig auf die Hilfe von KI bei der Suche nach Einkaufskanälen verzichten, aber wir müssen eine schlechte Gewohnheit ablegen: alles zu glauben, was die KI sagt.

Dieser Artikel wurde von Leitech aus dem Englischen von gadgetreview übersetzt.

Link zum Originaltext: KI-Chatbots empfehlen Nutzern gefälschte Einkaufswebsites – was ist da los?

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Leitech“ und wurde von 36kr mit Genehmigung veröffentlicht.