Google hat sein neues KI-Bildgenerator-Tool für Google Earth bereits einen Tag nach dem Start wieder entfernt. Journalisten und Sicherheitsforscher zeigten, dass das Tool problemlos gefälschte Satellitenbilder erstellen kann – etwa von Explosionskratern oder überfluteten Gebäuden – und damit massive Desinformationspotenziale birgt.
Google kündigte am 30. Juli 2024 ein neues Feature an, mit dem Nutzer über Google Earth mithilfe von Textbefehlen KI-generierte Satellitenbilder erstellen konnten. Das sogenannte Nano-Banana-Modell sollte professionellen Geoinformatikern bei ihrer Arbeit helfen. Bereits am nächsten Tag, dem 31. Juli, zog Google das Tool wieder zurück – aufgrund von Sicherheitsbedenken und Verstößen gegen interne Richtlinien.
Der Grund für den sofortigen Rückzug war beeindruckend und beängstigend zugleich: Sicherheitsforscher und Journalisten demonstrierten die erschreckende Leichtigkeit, mit der das Tool täuschend echte Falschinformationen generierte. Sie erstellten Bilder von Explosionskratern in Los Angeles, einer überfluteten U.S. Capitol und brennenden Ölanlagen im Iran – alles Szenarien, die als echte Nachrichten massive geopolitische Auswirkungen hätten. Besonders kritisch: Das Tool lehnte keine der getesteten schädlichen Anfragen ab.
Experten warnen vor weitreichenden Konsequenzen für die Informationsverifikation. Satellitenbilder gelten bisher als vertrauenswürdige Quelle bei der Überprüfung von Nachrichten und Kriegsverbrechen – gerade weil deren Fälschung schwierig war. Mit KI-generierten Bildern könnte dieses Vertrauen schwinden, zudem könnten Regierungen authentische Bilder nun leicht als Fälschungen abtun. Google begründete seinen Rückzug mit fehlenden Schutzmaßnahmen und kündigte an, das Feature nur mit strengeren Kontrollen wiederherzustellen – einen Zeitpunkt nannte das Unternehmen nicht.