News

X - IntCyberDigest ▾ ▾ Google hat die KI-Bildgenerierung Nano Banana 2 für Google Earth nach weniger als zwei Tagen wieder abgeschaltet. Nutzer hatten das Tool massiv missbraucht, um täuschend echte Kriegsszenen und Katastrophen in reale Satellitenbilder einzufügen. Da die Schutzmechanismen und Filter versagten, warnten Forscher vor einem dramatischen Verlust der Glaubwürdigkeit von Kartenmaterial.

Das Unternehmen pausiert die Funktion nun auf unbestimmte Zeit, bis bessere Sicherheitsvorkehrungen entwickelt sind. TechCrunch: Google nixes its Earth AI feature one day after launch ZDFheute: KI-Manipulation bei Satellitenbildern: Massive Kritik an Google Google hat seine neue KI-Bildgenerierung für Google Earth nach weniger als zwei Tagen wieder vom Netz genommen. Nutzer fluteten das Netz mit täuschend echten Fake-Satellitenbildern von Kriegsszenen und Terroranschlägen.

Interne Schutzmechanismen versagten nahezu komplett. Das Chaos bricht aus Statt historischer Stadtansichten erzeugten die Nutzer rasch völlig andere Szenarien. Innerhalb weniger Stunden kursierten Bilder von einem eingestürzten Eiffelturm, russischen Panzern in Kyjiw und einem fiktiven Flüchtlingstreck an der US-mexikanischen Grenze.

Ein Nutzer platzierte das Internet-Meme »Pepe der Frosch« als gigantisches Monster in den Straßen von New York. + Quelle: X @IntCyberDigest Das Chaos bricht aus Statt historischer Stadtansichten erzeugten die Nutzer rasch völlig andere Szenarien. Innerhalb weniger Stunden kursierten Bilder von einem eingestürzten Eiffelturm, russischen Panzern in Kyjiw und einem fiktiven Flüchtlingstreck an der US-mexikanischen Grenze. Ein Nutzer platzierte das Internet-Meme »Pepe der Frosch« als gigantisches Monster in den Straßen von New York. + Quelle: X @IntCyberDigest Gefahr durch echten Kontext Sicherheitsforscher kritisieren die schnelle Veröffentlichung scharf.

Das Risiko liege nicht in der reinen Bildqualität der KI-Generierungen, sondern in ihrem geografischen Kontext. Ein erfundenes Detail müsse für sich genommen nicht perfekt aussehen. Es leihe sich die Autorität der echten Karte darunter und der Koordinaten, die daran hängen.

Besonders für die Berichterstattung aus Konfliktgebieten ist diese Entwicklung problematisch. Henry Ajder, Forscher für synthetische Medien, sieht den größten Schaden im Verlust von Räumen, die bislang als verlässliche galten. Satellitenbilder genossen lange eine ungewöhnlich hohe Glaubwürdigkeit.

Diese wurde nun innerhalb von zwei Tagen nachhaltig beschädigt. Gleichzeitig muss man jedoch betonen, dass diese Satellitenbilder natürlich auch von einem externen Bildgenerator manipuliert werden können. Die Idee ist also in der Welt.

Anzeige Lückenhafte Wasserzeichen Google verwies zunächst darauf, dass Nano Banana 2 alle Bilder mit unsichtbaren Wasserzeichen versehe. Nutzer könnten zweifelhaftes Material durch die hauseigene Gemini-App prüfen lassen. Diese Maßnahme erwies sich jedoch als unzureichend.

Tests zeigten, dass sich Gemini manipulieren ließ und einzelne gefälschte Earth-Bilder als echt einstufte. Externe Erkennungsdienste schlugen in vielen Fällen gar nicht an. Auch die Eingabefilter funktionierten uneinheitlich: Spezifische Anfragen nach Hinrichtungen nahe des britischen Parlaments blockierte Nano Banana 2, ließ allgemeinere Varianten derselben Idee jedoch problemlos zu.

Am Freitag zog Google Konsequenzen und deaktivierte die Funktion vollständig. Das Unternehmen erklärte, man pausiere sie, bis stärkere Schutzmechanismen entwickelt seien. Einen konkreten Zeitplan für eine mögliche Rückkehr nannte Google nicht.