Die Zeit ist endlich gekommen, in der Bilder keine Wahrheit mehr vermitteln können.

Einer der beliebtesten Anwendungen nach der Veröffentlichung von ChatGPT Images 2.0 ist die Fälschung von Screenshots.

Tweets auf X, Posts auf Weibo, Inhalte im Freundeskreis, Chat-Interfaces, Unternehmenspresseerklärungen – nur beschreiben Sie mit einem Satz, was Sie möchten, und es wird Ihnen ein Screenshot generiert. Ein Screenshot, der auf den ersten Blick keinem Verdacht auf Fälschung gibt und auch beim genauen Hinsehen kaum Fehler aufweist. Ein Screenshot, bei dem Schriftart, Abstände, Farbgebung und Interaktionselemente alle perfekt sind.

Jedes der folgenden Bilder wurde von GPT-Image-2 generiert.

Das Weibo-Konto der Xiaomi Corporation hat angekündigt, dass Tim Cook als CEO des Xiaomi Automobils ernannt wurde. Tim Cook hat selbst über sein Weibo-Konto geantwortet: "Lasst uns gemeinsam Energie tanken", begleitet von einem Werbebild des SU7 am Meer. Der Post war in den Hot-Topics, und 287.000 Menschen haben ihn angesehen.

Luoyonghao von Smartisan Technology hat einen Tweet gepostet, in dem er die Übernahme des Unternehmens Apple angekündigt hat, begleitet von einem offiziellen Ankündigungsposter im Stil einer Landschaftsmalerei. Der Tweet wurde 1,8 Millionen Mal angesehen.

Anthropic hat in einem Tweet angekündigt, dass es sich wieder bei Baidu niederlassen werde und seinen Hauptsitz nach Peking verlegen werde, begleitet von einem Poster mit der Skyline von Peking.

Das offizielle Konto von SpaceX hat in einem Tweet die Zusammenarbeit mit Cursor angekündigt und erklärt, dass Cursor SpaceX das Recht erteilt habe, Cursor für 60 Milliarden US-Dollar zu erwerben. Der Tweet wurde 6,567 Millionen Mal angesehen.

Die Investor Relations-Seiten von Huya und Douyu haben eine Presseerklärung über die Fertigstellung der Fusion veröffentlicht. Die Seite hat alle Elemente, wie Layout, Unternavigation, zukünftige Aussagen und Kontaktinformationen für Investoren.

Das offizielle Konto von Anthropic hat angekündigt, dass Claude nun für chinesische Benutzer offiziell zugänglich ist, begleitet von einem sorgfältig gestalteten Werbeplakat. Der Tweet wurde 1,2 Millionen Mal angesehen.

Die ersten Bilder wurden von den Leuten eher als Spaß betrachtet, weil sie so ironisch waren. Bei dem letzten Bild glaubten einige Leute in der Gruppe, in der der Autor Mitglied ist, tatsächlich, dass Claude für die chinesische Festlandregion einseitig zugänglich geworden sei.

Übrigens, der Autor hat vorhin gelogen. Das Bild, in dem SpaceX die Zusammenarbeit mit Cursor ankündigt, ist tatsächlich echt.

Die Verbreitung von falschen Informationen durch gefälschte Screenshots im Internet ist kein neues Phänomen.

Ein früherer Artikel von Hangtongshe namens "Vor 21 Jahren sorgte ein genialer Teenager auf der Wall Street für Aufsehen" hat die älteste Form von Betrug in der Geschichte der Digitalisierung genau dokumentiert.

Am 8. April 1999 untersuchten die Beamten der SEC und der NASDAQ gemeinsam einen Fall, in dem ein Ingenieur eines Technologieunternehmens eine gefälschte Meldung auf der offiziellen Website von Bloomberg erstellt hatte. Darin hieß es, dass das Unternehmen zu einem hohen Preis übernommen werde. Dadurch stieg der Aktienkurs des Unternehmens um über 30 % und belegte den 12. Platz der aktivsten Aktien an diesem Tag an der NASDAQ.

Die gefälschte Berichtsseite war so realistisch, dass man es kaum glauben konnte. Sie hatte Zitate, Kommentare und Anmerkungen und las sich wie eine Unternehmenspresseerklärung. Sie wurde eine halbe Stunde vor dem Beginn der Börsengeschäfte verbreitet, was den Investoren wenig Zeit ließ, die Informationen zu verifizieren, aber genug, um Bestellungen aufzugeben. Der Täter entkam einer Höchststrafe von 20 Jahren, indem er sich schuldig erkannte. Er wurde zu Hausarrest verurteilt und musste eine Geldstrafe von 93.000 US-Dollar zahlen, um die Verluste der Investoren zu ersetzen.

Zur gleichen Zeit postete der 15-jährige Highschool-Schüler Jonathan Lebed in der Finanzinformationen-Sektion von Yahoo! eine Vielzahl von Bullenposts und schuf so den Eindruck, dass viele Leute ihm zustimmten. Auf diese Weise manipulierte er den Preis von Penny Stocks und wurde der erste Minderjährige, der wegen Börsenbetrugs von der US-Securities and Exchange Commission angeklagt wurde.

Seither gibt es unzählige gefälschte Bankseiten auf Phishing-Websites. Ein berühmtes Beispiel aus den 2000er Jahren ist die Verwendung von Domains wie 1cbc.com.cn, um sich als Online-Banking der Industrial and Commercial Bank of China (ICBC) auszugeben, oder die Maskierung von icbc.com.cn.bk - bj.com als offizielle ICBC - Link, um Benutzernamen und Passwörter zu erlangen.

Im Jahr 2018 verbreitete sich ein gefälschter Screenshot von Ma Huatengs WeChat - Freundeskreis in der Technologiebranche. Selbst Tencent Technology hat ihn fälschlicherweise zitiert. Erst als der Fälscher selbst zugegeben hat, dass es ein Fake war, legte die Sache Ruhe.

In dem Artikel von Hangtongshe namens "Wenn Sie dem gefälschten WeChat - Screenshot von Ma Huateng geglaubt haben, wie können Sie Ihre älteren Verwandten und Micro - Business - Promoter lächerlich machen?" wurden diese Schwierigkeiten beschrieben, und es wurde spekuliert, wie die Screenshot - Fälschung damals technisch möglich war:

Tatsächlich ist die Herstellung eines Screenshots von WeChat - Chats sehr kostengünstig. Man könnte es sogar direkt in Windows Paint machen und vielleicht Menschen, die nicht sehr oft Nachrichten lesen, täuschen.

Allerdings können anspruchsvolle Leser diese ungenauen Bilder anhand von Details wie der Größe der Icons, den Abständen, der Schriftart und der Schriftgröße nicht ignorieren. Selbst anhand der Unterschiede zwischen iOS - und Android - Systemen können offensichtliche Unterschiede in der Benutzeroberfläche festgestellt werden.

Was passiert aber, wenn Ihr Gegner diese Erkennungsmethoden beherrscht und bei der Herstellung von gefälschten Bildern bewusst diese Probleme vermeidet, um die Echtheit der Bilder noch zu verbessern?

Eine App namens "News Camera" kann auf dem Smartphone einem Bild ein Template nachahmen, das den News - Sendungen der großen Fernsehsender ähnelt, und so vortäuschen, dass es sich um ein Fernsehnews - Ausschnitt handelt. Einige bekannte gefälschte Bilder sind z. B. "Das ganze Land freut sich über die Erhöhung der Benzinpreise".

Um größere Probleme zu vermeiden, hat "News Camera" bewusst Fehler in das Template eingebaut. Beispielsweise ist das Fernsehlogo nicht "CCTV", sondern "CCFV", und die Schriftart ist auch unterschiedlich. In einem Fernsehliebhaber - Forum auf Baidu Tieba wurden diese Unterschiede speziell diskutiert, um die normalen Internetnutzer vor Falschmeldungen zu warnen.

Das Problem ist, dass die gleichen Leute in demselben Forum aus Interesse darüber diskutieren, wie man mit Tools wie Photoshop und PowerPoint fehlerlose, echt aussehende statische Screenshots und Animierte Bilder herstellt. Sie teilen ihre Bilder im Forum und tauschen sich aus.

Der gefälschte Screenshot von Ma Huateng hat so viele Leute getäuscht, weil der Hersteller bewusst die üblichen Fehler vermieden hat und einen fehlerlosen Screenshot der iOS - WeChat - Benutzeroberfläche verwendet hat. Um dies zu erreichen, muss man Zeit und Fähigkeiten investieren.

GPT - Image - 2 hat diese Schwierigkeit beseitigt.

Warum ist diesmal etwas anders?

Der revolutionäre Unterschied zwischen GPT - Image - 2 und früheren Modellen ist die Möglichkeit, "mit einem Satz ein Bild zu generieren" (one - shot). Sie müssen nicht festlegen, welche Wörter, Schriftarten oder Benutzeroberflächen im Bild verwendet werden sollen. Das Modell sucht, denkt und passt alles selbst an. Das Logo ist tatsächlich das Logo von SpaceX, das Profilbild ist echt, und das Layout der X - Benutzeroberfläche ist ebenfalls echt.

Eine Entdeckung des Autors nach einem Vergleich lässt einen eiskalt werden. Bisher hat der Autor keine anderen Leute gefunden, die die gleiche Entdeckung gemacht haben. Vielleicht ist dies nur ein zufälliges Ergebnis einer einzelnen Generierung und sagt nicht viel aus. Aber lassen Sie uns es trotzdem betrachten:

Schauen wir uns die Bilder oben an und vergleichen Sie den "Tweet von Luoyonghao" mit anderen X - Tweet - Screenshots. Tatsächlich wurde in dem "Tweet von Luoyonghao" die Standard - Schriftart HeiTi der Smartisan - Mobiltelefone verwendet. In einem anderen X - Tweet wurde hingegen die PingFang - Schriftart verwendet.

Dies zeigt, dass das Modell nicht wirklich versteht, wie der Tweet von Luoyonghao behandelt werden soll. Es bleibt im Wesentlichen eine Maschine zur Wahrscheinlichkeitsvorhersage. Es nutzt alle Mittel, um die Intention des Hinweistexts so gut wie möglich umzusetzen. Statistische Muster haben Luoyonghao, Smartisan und die HeiTi - Schriftart miteinander verknüpft.

Wenn es noch unpassende Stellen gibt, können Sie den Hinweistext einzeln ändern oder ihm ein echtes Bild geben, um ein neues Bild zu generieren. Beispielsweise können Sie einfach das Profilbild geben, wenn Sie nicht möchten, dass der Name im Bild erscheint.

Dies führt zu einer grundlegenden Veränderung:

Die bisher relativ einfache Methode, Fälschungen zu erkennen, wird durch ein effizienteres und zugänglicheres Modell schwieriger.

Kenner können anhand von Informationen wie der Benachrichtigungsleiste und der Schriftart ermitteln, welches Mobiltelefon eines Herstellers verwendet wurde. Sie können auch die EXIF - Informationen des Bildes abrufen, um dies zu bestätigen. Die "Intuition" von normalen Menschen ist ähnlich wie die von Bankangestellten. Wenn man lange mit echten Banknoten umgeht, kann man eine gefälschte Banknote mit einem leichten Berührungsversuch sofort als falsch erkennen, auch wenn man nicht genau sagen kann, was nicht stimmt. Es kommt nur auf die Übung an.

Stimmt die Schriftart mit dem behaupteten Gerät überein? Sind die Icons in der Benachrichtigungsleiste sinnvoll? Entsprechen die Zeilenabstände und die Schriftgröße den Systemvorgaben? All dies kann jetzt vom Modell automatisch richtig behand