Ein „berühmter Moment“ der Weltmeisterschaft – und er stellt sich als KI-Fälschung heraus?

KI ist einfach unglaublich nützlich, so nützlich, dass es parallel zum Fußball-WM eine "verrückte KI-Paralleluniversum der WM" gibt.

In diesem Universum weinen immer wieder spektakuläre Schönheiten auf den Tribünen, und manchmal taucht plötzlich ein Mann mit einem Schnurrbart auf; im Pub betritt der britische Premierminister, um das Spiel Englands zu sehen, doch er trägt ein kroatisches Fußballtrikot; bei der Eröffnungsfeier flattern unvermittelt argentinische Flaggen, und es marschieren noch seltsamererweise Elefanten über das Spielfeld...

Die alle vier Jahre stattfindende Fußball-Weltmeisterschaft ist fast zu einem zeitlichen Anker geworden.

Als die Fußball-Weltmeisterschaft 2022 in Katar bereits zehn Tage gelaufen war, kam ChatGPT erst auf den Markt.

Als die neue Fußball-Weltmeisterschaft in den USA, Kanada und Mexiko begann, hatte sich die Welt verändert – KI ist kein neues und seltsames Ding mehr, sondern ein unverzichtbares Teil unserer täglichen Leben.

Aber es gibt auch eine andere Seite der Medaille: KI-Fälschungen laufen rampant, und die Fußball-Weltmeisterschaft ist ein besonders betroffenes Gebiet.

Woher sollen so viele weinende Schönheiten kommen?!

Ein Nutzer auf Xiaohongshu hat es mit den "weinenden Schönheiten auf den Tribünen" aufnehmen wollen.

Der Nutzer @WaluojiaDamaomao hat in einem Beitrag geschrieben, dass er ein Video gesehen habe, in dem der Spieler Fermin Lopez auf dem Spielfeld verletzt wurde und eine schöne Frau auf den Tribünen vor Sorge weinte. Er habe vermutet, dass das Video von KI generiert sei, und deshalb das entsprechende Spiel nochmal angesehen, um seine Vermutung zu bestätigen.

Der Nutzer hat festgestellt, dass das Bild der "weinenden Schönheit auf den Tribünen" tatsächlich aus einem Spiel (nicht während der WM) stammt, aber ein Zuschauer wurde "gesichtsswapet".

Dieser Fall ist bei dieser WM sehr häufig.

Die WM selbst ist ein großer Magnet für Aufmerksamkeit, und die "Schönheiten auf den Tribünen" sind ein besonders wirkungsvolles Schlüsselwort für Aufmerksamkeit. Einige Inhalte werden mit "KI-generiert" markiert, andere aber täuschen die Leute an.

Dieses Phänomen ist weltweit verbreitet.

Das typischste Beispiel ist ein sogenanntes Video einer "brasilianischen Fußballfanistin". Im Video sitzt eine Frau auf den Tribünen, und ein Mann neben ihr starrt auf ihre Brüste. Dieses widerliche Video wurde in mehreren Sprachen weitergeleitet. Die Prüfer haben das ursprüngliche Instagram-Konto Chiara Cleo aufgespürt, und das Video hat fast 40 Millionen Aufrufe.

Hinter all diesem steckt Geschäft. Dieses Konto veröffentlicht regelmäßig Videos mit demselben KI-Frauenbild. Das Konto selbst ist ein KI-Influencer mit über 340.000 Followern und verweist auf die Fanvue-Seite, eine Plattform für erwachsene Inhalte ähnlich OnlyFans.

Außer den "Schönheiten auf den Tribünen" gibt es auch die "Männer mit Schnurrbart auf den Tribünen".

Nach dem Spiel zwischen Deutschland und Curaçao ist ein sogenanntes "Übertragungsscreenshot" in den sozialen Medien verbreitet worden. Im Bild sieht ein Zuschauer in einem deutschen Fußballtrikot aus wie ein Mann mit einem Schnurrbart. Das Bild ist auf mehreren Plattformen und in mehreren Sprachen verbreitet worden und hat Millionen von Ansichten.

Das Faktenprüfnetzwerk Eurovision News Spotlight der Europäischen Rundfunküberschau hat gemeldet, dass die Prüfer die Spielübertragung zurückgesehen haben und das ursprüngliche Bild des Zuschauers gefunden haben. Es hat sich herausgestellt, dass es in der realen Szene keinen "Zuschauer mit Schnurrbart" gibt. ZDFheute hat mit einem Prüftool festgestellt, dass das Bild ein OpenAI-Wasserzeichen trägt, was bedeutet, dass es auf einem realen Bild basiert und mit OpenAI-Tools bearbeitet wurde.

Dieser Vorfall hat auch reale Schäden für die betroffenen Personen verursacht.

Blue News hat den gefälschten deutschen Fußballfan Jan Weitzel interviewt.

Er kommt aus Alsfeld in Hessen. Nach der KI-Bearbeitung des ursprünglichen Bildes ist er selbst kaum noch zu erkennen, aber sein Sohn ist noch deutlich zu sehen. Wegen der viralen Verbreitung des gefälschten Bildes hat er in Deutschland und den USA die Polizei informiert und wurde auch von der FBI befragt. Noch schlimmer ist, dass später jemand auf Basis dieses gefälschten Bildes ein weiteres KI-Video erstellt hat und den deutschen Fußballfan im Bild zu einem Nazi-Gruß animiert hat.

Tatsächlich hat die KI-Fälschung bereits bei der Eröffnungsfeier eingesetzt.

Der YouTube-Kanal Focus Lab hat am 11. Juni eine Live-Übertragung mit dem Titel "Eröffnungsfeier der WM 2026" gestartet. Der Inhalt wurde von KI generiert, und die Live-Übertragung dauerte 12 Stunden. Das eigentliche Video wurde etwa eine Stunde lang wiederholt. Zu einem Zeitpunkt waren über 210.000 Menschen gleichzeitig online, und insgesamt haben über 1,42 Millionen Menschen die Übertragung gesehen.

Obwohl bei dieser "Eröffnungsfeier" argentinische Flaggen wehten (während diese WM von den USA, Kanada und Mexiko ausgerichtet wird) und es auch das absurde Bild gab, dass Elefanten auf das Fußballfeld marschierten, haben dennoch viele Menschen getäuscht werden lassen.

Auch Shakira, die bei der Eröffnungsfeier gesungen hat, wurde gefälscht. Am 12. Juni hat jemand auf X ein von KI generiertes Video gepostet und mit dem Text "Shakiras Auftritt heute war einfach legendär. Die Atmosphäre, die Bewegungen, die Stimme – sie hat die Eröffnungsfeier in ihr eigenes Konzert verwandelt. Ein echtes Epopee." versehen.

Dieses Video hat 450.000 Aufrufe erreicht. Wenn man sich die Kommentare ansieht, wird man feststellen, dass die meisten Menschen noch immer getäuscht sind. Selbst wenn die gefälschte Shakira Länder erwähnte, die gar nicht für diese WM qualifiziert waren, wie Nigeria, was eigentlich ein Hinweis darauf sein sollte, dass das Video nicht echt ist, haben viele Leute in den Kommentaren sich berührt gefühlt: "Wir sind nicht in die WM gekommen, aber wir wurden trotzdem erwähnt. So schön!"

Leider wird die Qualität der KI-Fälschungen immer besser.

Man kann sich vorstellen, dass das "verrückte KI-Paralleluniversum" mit fortschreitender WM weiter wachsen wird.

KI-Fälschungen wollen nicht nur Aufmerksamkeit

Die meisten KI-Fälschungen während der WM sind Geschäfte, die darauf abzielen, Aufmerksamkeit zu erregen.

Aber hinter einigen Inhalten stecken komplexere Ziele.

In letzter Zeit ist ein Bild in den sozialen Medien verbreitet worden, das behauptet, der britische Premierminister Keir Starmer sei während des WM-Spiels zwischen England und Kroatien in einem Pub in Dallas in einem kroatischen Nationalmannschaftstrikot aufgetaucht.

Tatsächlich ist dieses Bild auf Basis eines echten Gruppenbildes aus der EURO 2024, das jemand auf Facebook gepostet hat, bearbeitet worden. Im ursprünglichen Bild trugen alle Leute englische Bekleidung, und Starmer trug ein weißes Oberteil, kein kroatisches Trikot.

In einem anderen Fall ist ein Video eines Spiels zwischen Frankreich und Senegal in den sozialen Medien verbreitet worden. Darin kann man hören, dass der argentinische Kommentator Nicolas Haase scheinbar Frankreich und Senegal beide als "afrikanische Länder" bezeichnet, und seine Tonlage hat rassistische Züge.

Diese Inhalte ziehen natürlich auch viel Aufmerksamkeit auf sich, aber man kann deutlich sehen, dass sie gleichzeitig mit politischer oder moralischer Demütigung von Personen verbunden sind.

Es gibt auch eine noch gefährlichere Art von Fälschungen, die direkt auf die Geldbeutel der Menschen abzielen.

Der FBI hat am 27. Mai eine Warnung herausgegeben und gesagt, dass es bereits Bedrohungsträger gibt, die die offizielle FIFA-Website imitieren, um die Nutzer dazu zu bringen, zu glauben, dass sie mit der offiziellen Marke interagieren. Die Ziele umfassen die Sammlung von persönlichen Informationen, den Verkauf von gefälschten WM-Tickets und exklusiven Zuschauangeboten, und es kann auch für andere böswillige Aktivitäten verwendet werden.

Der FBI hat die Nutzer darauf hingewiesen, direkt "fifa.com" einzugeben und nicht über Suchmaschinen oder sponsorte Links auf sogenannte Ticketkäufe-Seiten zu gelangen.

Die AP hat auch berichtet, dass während der WM die Anzahl von gefälschten Tickets, gefälschten Wiederverkäufen und gefälschten Streaming-Websites zunimmt. Experten sagen, dass Kriminelle KI verwenden, um realistischere Informationen, Webseiten, die eher wie echte Online-Shops aussehen, gefälschte Empfehlungen und gefälschte Werbeinhalte zu generieren.

Betrüger posten auch gefälschte Ticketinformationen in den sozialen Medien und leiten die Käufer dann zu verschlüsselten Chat-Apps wie WhatsApp, um sie zum Überweisen von Geld zu drängen.

KI-generierte Websites, Deepfake-Videos, gefälschte Audios und überzeugendere Phishing-Inhalte ersetzen die früheren groben Betrugsversuche.

Die Daten der Netzwerksicherheitsfirma TrendAI zeigen, dass zwischen Januar und Mai 2026 über 13.000 FIFA-Themen-Domains registriert wurden; bis Anfang Mai wurde ungefähr jeder 41. als verdächtig oder bösartig identifiziert.

Nach einer Studie von FortiGuard Labs, einer Tochtergesellschaft von Fortinet, sind in derselben Zeit über 13.000 neue FIFA-WM-Themen-Domains registriert worden, von denen etwa 8,8 % als bösartig oder verdächtig eingestuft wurden.

Die Netzwerksicherheitsfirma Group-IB hat festgestellt, dass es seit August 2025 über 4.300 Betrugsdomains gibt, die sich als offizielle FIFA-Websites ausgeben.

KI ist wirklich unglaublich nützlich

Natürlich bringt KI nicht nur Täuschung und Chaos in die WM. In vielen anderen Situationen bietet KI den Menschen lebendigere und neuere Erfahrungen.

Nehmen wir als Beispiel Xiaohongshu, eine der nationalen Übertragungsplattformen für die WM. Der norwegische Stürmer Erling Haaland, der wegen seiner "abstrakten" Art bekannt geworden ist, wurde von den Nutzern mit KI in vielen kreativen Arbeiten neu interpretiert. Zum Beispiel gibt es KI-Bilder wie "Liebe mit Haaland" im Stil der Plakate von "Love and Deep Space", eine anime-versionierte Haaland und eine Haaland in chinesischer Antikleidung.

Am Ende