Google hat ein neues KI-Tool zur Bildgenerierung in Google Earth bereits 24 Stunden nach dem Start wieder entfernt. Journalisten und Forscher zeigten, dass die Software überzeugend gefälschte Satellitenaufnahmen erstellen kann und so Desinformation massiv vereinfachen würde.
Google führte das „Nano Banana"-Tool am 30. Juli 2024 ein und ermöglichte Nutzern, an beliebigen Orten auf Google Earth Bilder per Textbefehl zu generieren. Bereits einen Tag später wurde die Funktion wieder deaktiviert, nachdem Journalisten und Open-Source-Forscher aufzeigten, wie leicht sich damit erfundene Ereignisse darstellen lassen – von Einschlagskratern in Los Angeles über ein überflutetes US-Kapitol bis zu brennenden iranischen Ölinseln.
Das Kernproblem liegt in der Glaubwürdigkeit von Satellitenaufnahmen als Nachrichtenquelle. Bislang galten solche Bilder als schwer zu fälschen und dienten zur Verifizierung von Katastrophen und Kriegsverbrechen. Mit diesem Tool könnten manipulierte Bilder im großen Stil verbreitet werden – schneller als Faktenchecks entstehen können. Sicherheitsforscher warnen zudem, dass Regierungen nun authentische Aufnahmen pauschal als KI-Fälschungen abtun könnten.
Google hatte zunächst argumentiert, dass jedes generierte Bild ein „SynthID"-Wasserzeichen trägt und Sicherheitsfilter greifen. Diese Maßnahmen wurden jedoch als unzureichend kritisiert, da die meisten Nutzer Bilder teilen, ohne sie zu überprüfen. Das Unternehmen kündigte an, die Funktion nur mit stärkeren Schutzmaßnahmen wiederherzustellen – einen konkreten Zeitpunkt nannte es nicht.