Google hat die „Erde“ ruiniert, indem es KI zwangsintegriert hat, und das ist schon nach nicht einmal zwei Tagen komplett schiefgelaufen.

Für jeden, der wissen möchte, wo ein Ort auf der Welt liegt und wie er aussieht, ist die intuitivste Möglichkeit, einfach auf eine Karte zu schauen.

Vor einigen Jahrzehnten griff man auf riesige Papierkarten zurück. Google Earth hat mehr als zwanzig Jahre gebraucht, um die Nutzer an digitale Karten zu gewöhnen – und dann hat es letzte Woche selbst einen riesigen Fehler begangen.

Etwas Nicht-Existierendes taucht auf der Karte auf

Dank digitaler Technologien die Welt zu erkunden, war einer der Gründe, warum Google Earth damals so beeindruckend war. Ich erinnere mich noch heute daran, dass ich als Kind vor dem Computer saß, einen allgemeinen Ortsnamen wie „Frankreich, Paris, Fontainebleau…“ eingab und die Eingabetaste drückte – daraufhin drehte sich ein azurblauer Planet, zoomte plötzlich heran, und im nächsten Augenblick befand ich mich inmitten alter französischer Gebäude und Gärten.

Erst als ich erwachsen wurde, musste ich einsehen, wie viel Geld und Zeit die Reise nach Fontainebleau kostet. Google Earth bietet eine sofortige Antwort auf die Neugier nach der realen Welt – wenn die Möglichkeiten begrenzt sind, ist diese kleine stellvertretende Befriedigung nichts Falsches. Zumindest wusste ich sofort, dass Fontainebleau nicht in Paris liegt, sondern weiter nördlich in Frankreich.

Letzte Woche kündigte Google an, Nano Banana 2 in die Webversion von Google Earth zu integrieren. Nutzer müssen nur einen beliebigen Ort auf der Erde finden, auf „Bild erstellen“ klicken und einen Satz eingeben – schon kann die KI auf der Grundlage echter Satelliten-, Luftaufnahmen und 3D-Bilder des Ortes ein neues Bild erzeugen, das mit der Realität perfekt übereinstimmt.

Die von Google vorgesehenen Anwendungsfälle sind durchaus seriös: Ein Brachland in einen Gemeinschaftsgarten umwandeln, das Pompeji aus der Römerzeit wiederherstellen, noch nicht gebaute Wohnhäuser und Geschäftsstraßen voranschauen oder sehen, wie eine Stadt in hundert Jahren aussieht. Offiziell nennt Google diese Bilder „Konzepte, die in der realen Welt verwurzelt sind“ – eine erweiterte Pro-Max-Version der „Welterkundung“ aus der Kindheit.

Das obere Bild zeigt den aktuellen Zustand von Pompeji, das untere das mit Nano Banana wiederhergestellte Ergebnis. Bildquelle: Technischer Blog von Google Earth

Produktmanager denken oft so: Die Vorstellungen sind schön, manchmal sogar zu schön. Nach der Veröffentlichung der Funktion verwandelte sich das „in der realen Welt verwurzelte“ Konzept sofort in etwas anderes: manipulierte Bilder, die kaum jemandem unglaubwürdig erscheinen.

Der Untersuchungsjournalist Henk van Ess erzeugte mit einem einzigen Satz ein nicht existierendes Kernkraftwerk, errichtete ein Flüchtlingslager an der Grenze, inszenierte einen tödlichen Unfall in den Straßen von Amsterdam und erzeugte Krater neben einem Feldlazarett.

Auch BBC Verify führte Tests durch und erzeugte Bilder vom einstürzenden Eiffelturm, von riesigen Dolinen, die die Pyramiden von Gizeh verschlingen, und vieles mehr.

Offensichtlich steht der Eiffelturm noch immer intakt, keines dieser Ereignisse hat stattgefunden. Aber diese Bilder übernehmen die Koordinaten, Geländeeigenschaften, Gebäudeproportionen, Lichtverhältnisse und Aufnahmewinkel der echten Orte – und vor allem übernehmen sie die Glaubwürdigkeit, die Google Earth über Jahre hinweg in den Köpfen der Nutzer aufgebaut hat.

Google antwortete zunächst, dass die erzeugten Bilder mit einem digitalen Wasserzeichen von SynthID versehen sind. Nutzer können über Gemini oder Google Lens prüfen, ob ein Bild von KI erzeugt wurde, und das System soll schädliche Inhalte blockieren. Aber Tester stellten fest, dass einige gefährliche Prompt-Wörter nicht blockiert wurden und kleine Änderungen der Formulierung die Einschränkungen umgehen können. Sobald ein Bild abgeschnitten, zugeschnitten oder weitergeleitet wird, werden normale Nutzer kaum von sich aus den Überprüfungsablauf von Google durchlaufen. Selbst bei der Prüfung durch spezielle Software lassen sich die Bilder nicht zuverlässig erkennen.

Weniger als zwei Tage später wurde die Funktion zurückgezogen. Google schrieb auf X: „Wir wissen, dass die Menschen den zuverlässigen Weltbildern von Google Earth besonders vertrauen.“ Gleichzeitig habe man gesehen, dass einige Nutzer erzeugte Bilder teilen, die offenbar gegen die Richtlinien verstoßen. Deshalb will Google die Funktion erst nach dem Hinzufügen strengerer Schutzmaßnahmen erneut prüfen.

Das offenbart den seltsamsten Teil der ganzen Angelegenheit: Wenn Google wusste, warum die Menschen Google Earth vertrauen, wie konnte es dann eine Funktion hinzufügen, die auf Fiktion abzielt?

Das Wichtigste an einer Karte ist nicht die Vorstellungskraft

Die Stellung von Google Maps ergibt sich aus seiner Konstruktion: Es verwischt Satellitenbilder nicht von sich aus. Nur wenn Regierungen oder Eigentümer einen Antrag stellen und dieser nach Prüfung genehmigt wird, werden bestimmte Orte unscharf dargestellt. Deshalb musst du früher eine offizielle Anfrage der Regierung einholen, um ein echtes Gebäude aus Google Earth zu entfernen.

Heute reicht ein einziger Satz, um ein Kernkraftwerk in einer Stadt hinzuzufügen.

Nano Banana kann natürlich die oben genannten Bilder erzeugen – technisch gesehen ist dies sogar eine ganz natürliche Erweiterung. Google verfügt über die weltweit größte Sammlung geografischer Bilder, nach eigenen Angaben decken die Street-View-Aufnahmen derzeit 10 Millionen Meilen ab. Gleichzeitig besitzt Google eines der fortschrittlichsten Bildgenerierungsmodelle der Welt. Die Kombination beider ergibt natürlich viel realistischere Ergebnisse als eine aus dem Nichts erzeugte Satellitenaufnahme.

Aber ein Produkt ist keine bloße Liste von Fähigkeiten. Ob eine Funktion sinnvoll ist, hängt nicht nur davon ab, ob sie technisch umsetzbar ist, sondern auch davon, wo sie platziert wird.

Wenn du in einem normalen Bildgenerierungstool „Ein Verkehrsunfall in den Straßen von Amsterdam“ eingibst, weiß der Nutzer von Anfang an, dass er die KI auffordert, ein fiktives Bild zu erzeugen. Aber wenn das gleiche Bild aus Google Earth erzeugt und an einen anderen Nutzer weitergegeben wird, sind die Handlungen und Motive des Erzeugers unbekannt – die Glaubwürdigkeit wird allein von Google Earth als Vermittler übernommen.

Google betont, dass erzeugte Bilder nicht direkt auf der Hauptoberfläche von Google Earth angezeigt werden, die andere Nutzer sehen, sondern separat erstellt und mit Wasserzeichen versehen sind. Diese Angabe ist zwar wichtig, löst das Problem aber nicht vollständig. Der Ort, an dem Falschinformationen wirklich verbreitet werden, ist ohnehin nicht die Oberfläche von Google Earth, sondern Screenshots, Bildschirmaufnahmen oder wiederholt zugeschnittene und umkodierte Bilder auf sozialen Plattformen – es reicht, wenn das Logo von Google Earth zu sehen ist.

Was sich außerhalb des Produkts verbreitet, ist fast immer nur das erzeugte Ergebnis. Die echten Archive verbleiben in Google Earth. Egal wie klar die Grenze zwischen Realität und Fiktion innerhalb der Karte gezogen ist, sie kann nicht garantieren, dass Zuschauer außerhalb des Screenshots diese Grenze noch sehen können.

Außerdem ist Google Earth kein neutrales Kartenprodukt: Nachrichtenagenturen, Meteorologen, Outdoor-Enthusiasten, Reisende und normale Nutzer nutzen es als öffentliches Bezugssystem, um zu bestätigen, ob ein Gebäude existiert, wann sich ein Gebiet verändert hat oder ob ein verbreitetes Foto mit der echten Geländebeschaffenheit übereinstimmt.

Deshalb müssen KI-Falschbilder nicht einmal alle Menschen täuschen. Sobald die Öffentlichkeit weiß, dass 1) Google Earth auch Bilder erzeugen kann und 2) sie einen Screenshot aus Google Earth erhält, entsteht bereits Streit. Bei einem Gebäude- oder Katastrophenfoto lautet die erste Frage sofort: „Ist das von KI erzeugt?“

Das Risiko generativer KI besteht nie nur darin, dass Menschen Falsches glauben, sondern auch darin, dass Menschen anfangen, Wahres nicht mehr zu glauben. Indem Google das Bildgenerierungstool in Earth integriert, hat es selbst diesen Zweifel in das öffentliche Bezugssystem eingebaut, das es zwanzig Jahre lang aufgebaut hat.

Nicht jeder KI-Button ist falsch

Um fair zu sein: Die von Google für diese Funktion entworfenen Anwendungsfälle sind nicht völlig fiktiv.

Architekten müssen tatsächlich ihre Entwürfe auf echte Grundstücke setzen, Lehrer möchten ihren Schülern möglicherweise das Aussehen antiker Städte anschaulich zeigen. Bei Stadtplanung, Immobilienpräsentation, Geschichtsunterricht und privaten Renovierungsarbeiten besteht der Bedarf an Visualisierungen der Frage „Was würde passieren, wenn dieser Ort anders aussieht?“. Nano Banana nutzt echte geografische Informationen, um Proportionen und Umgebungskonsistenz zu wahren – es eignet sich besser für diese Aufgaben als normale Bildgenerierungstools.

Das Problem liegt darin, dass alle diese Anwendungsfälle eine gemeinsame Voraussetzung haben: Der Nutzer will nicht sehen, „was dieser Ort ist“, sondern „was dieser Ort werden könnte“. Ersteres ist das Kernversprechen von Google Earth, Letzteres ist ein unabhängiges Werkzeug für Kreativität und Simulation.

Google hätte es zu einem klar getrennten „Vorstellungsmodus“ oder einem Planungsarbeitsplatz machen können, fiktive Inhalte mit einer völlig anderen visuellen Oberfläche markieren, nicht abtrennbare Hinweise auf exportierte Bilder hinzufügen und strengere Einschränkungen für Orte mit militärischer Bedeutung, Katastrophen, Konflikten und öffentlicher Sicherheit festlegen. Oder es hätte die Funktion zuerst Architekten, Lehrern und Geografie-Experten zugänglich machen können, um die tatsächliche Nutzung zu beobachten, bevor es alle Nutzer weltweit „alles eingeben lässt, was sie sehen möchten“.

Aber die tatsächliche Veröffentlichung wirkt eher wie eine Demonstration der Modellfähigkeiten: Nano Banana kann bereits Fotos bearbeiten und Bilder erzeugen, jetzt ist es auch in Google Earth angekommen.