Google hat sein neues KI-Bildgenerator-Tool für Google Earth nach nur 24 Stunden wieder entfernt. Journalisten und Forscher zeigten, dass das Tool problemlos gefälschte Satellitenbilder erstellen kann – von nicht existierenden Katastrophen bis zu manipulierten politischen Szenen – und damit massive Desinformation fördern würde.
Google führte am 30. Juli 2024 ein KI-Feature in Google Earth ein, mit dem Nutzer Satellitenbilder durch Textbefehle generieren konnten. Das sogenannte Nano-Banana-Modell sollte realistische Szenen für jeden Ort auf der Erde erzeugen. Bereits nach einem Tag zog das Unternehmen die Funktion am 31. Juli wieder zurück – offiziell wegen Sicherheitsbedenken und Richtlinienverletzungen.
Forscher und Journalisten hatten schnell gravierende Risiken aufgedeckt: Das Tool ließ sich leicht dazu verleiten, völlig fiktive Ereignisse darzustellen, etwa Bombenkrater in Los Angeles, eine überflutete US-Capitol oder Brände auf dem iranischen Kharg-Island. Diese Szenen würden, wenn real, Weltnachrichten darstellen – doch sie existieren nur in der KI-Phantasie. Google argumentierte, dass jedes generierte Bild ein SynthID-Wasserzeichen trägt, das es als KI-erzeugt kennzeichnet. Kritiker hielten das für unzureichend, da die meisten Nutzer Bilder vor dem Teilen nicht verifizieren.
Das größte Problem liegt in der Vertrauenskrise: Satellitenbilder gelten bislang als verlässliches Beweisstück für Kriegsverbrechen und Nachrichten. Mit einfach zu erzeugenden Fakes könnte sich das grundlegend ändern – Regierungen könnten authentische Bilder künftig als "Deepfakes" abtun. Google kündigte an, das Feature nur mit deutlich stärkeren Sicherheitsvorkehrungen zurückzubringen, nannte aber keinen Zeitplan.