Google zieht KI-Bildgenerierung in Google Earth nach einem Tag zurück

Donnerstag lanciert, Freitag wieder abgeschaltet: Google hat die neue KI-Bildgenerierung in Google Earth nach gut 30 Stunden zurückgezogen. Das Feature legte per Texteingabe generierte Bilder direkt über echte Satellitenaufnahmen – und wurde binnen Stunden zur Produktionsmaschine für Fake-Satellitenbilder.

Fakes auf Googles eigenem Kartenmaterial

Am 30. Juli schaltete Google die Bildgenerierung mit Nano Banana 2 (Googles aktuellem Bildmodell) in der Web-Version von Google Earth frei – weltweit, ohne Warteliste. Gedacht war das Feature für Harmloses: historische Orte visualisieren, Bauprojekte planen, Quartiere umgestalten. Die Realität sah anders aus. Der niederländische OSINT-Experte Henk van Ess (OSINT steht für Recherche mit öffentlich zugänglichen Quellen) zeigte noch am Launch-Tag, dass sich täuschend echte Fake-Szenen auf Googles eigenem Bildmaterial erzeugen liessen: eine Flüchtlingskolonne an der mexikanischen Grenze, ein Atomkraftwerk in Iran, ein zerbombtes Spital in Gaza. Nichts davon blockierte das System. Auch US-Medien wie NPR generierten testweise problemlos Katastrophenszenen – etwa das Capitol unter Wasser.

Wasserzeichen mit blinden Flecken

Google verwies zunächst auf die eingebauten Schutzmechanismen: Alle Bilder trugen ein unsichtbares SynthID-Wasserzeichen, waren als KI-generiert gekennzeichnet und für andere Earth-Nutzer nicht sichtbar. Der Haken: Van Ess demonstrierte, dass die Kennzeichnung bei Screenshots und abgefilmten Bildern nicht mehr zuverlässig erkannt wird – und genau so verbreiten sich Fakes im Netz. Am 31. Juli folgte der Rückzug:

«Wir wissen, dass Menschen Google Earth ein einzigartiges Vertrauen als verlässliches Abbild der Welt entgegenbringen», schreibt Google – das Feature bleibe offline, bis «stärkere Guardrails» implementiert seien.