Google heeft een gloednieuwe AI-beeldfunctie in Google Earth alweer teruggedraaid, nadat gebruikers er binnen enkele dagen realistische beelden van verwoeste steden, branden en overstromingen mee gingen maken op bestaande, herkenbare locaties. Wat bedoeld was als een creatieve manier om plekken op de kaart te herverbeelden, veranderde razendsnel in een generator voor beelden die op nepnieuws over rampen leken.
Het incident zet opnieuw een schijnwerper op een terugkerend probleem bij grote techbedrijven: AI-functies worden vaak binnen de eigen muren getest op voor de hand liggende risico's, maar zodra miljoenen gebruikers ermee aan de slag gaan, duiken misbruikscenario's op die niemand had voorzien.
Van locatievisualisatie tot rampscenario's
De functie was toegevoegd om gebruikers te laten experimenteren met AI-gegenereerde variaties van een locatie in Google Earth, denk aan hoe een straat er in een ander seizoen of onder andere omstandigheden uit zou kunnen zien.
In de praktijk bleek de stap naar destructieve content klein. Gebruikers voerden prompts in voor hun eigen buurt, bekende landmarks of hele steden, en kregen beelden terug van instortende gebouwen, rokende puinhopen en overstroomde straten die griezelig echt oogden.
Op sociale media werden voorbeelden gedeeld waarin het verschil tussen een AI-fantasie en een mogelijke nieuwsfoto nauwelijks nog te zien was. Dat is precies het probleem bij een dienst als Google Earth, die door miljoenen mensen als een feitelijke, betrouwbare weergave van de werkelijkheid wordt gezien.
Waarom Google besloot in te grijpen
Google koos ervoor de functie terug te schalen zodra duidelijk werd hoe gemakkelijk misleidende rampbeelden te produceren waren. Het risico school niet in de techniek zelf, maar in de context: beelden gegenereerd op basis van echte coördinaten en echte plaatsnamen wekken al snel de indruk van authenticiteit.
Dat risico weegt extra zwaar in een tijd waarin nepbeelden van oorlogen, natuurrampen en aanslagen al vaker voor verwarring zorgen op sociale platforms. Een geografische dienst die zulke content faciliteert, ook al onbedoeld, kan bijdragen aan precies die verspreiding van desinformatie die techbedrijven zeggen te willen tegengaan.
Google heeft geen exacte tijdlijn gegeven voor een eventuele terugkeer van de functie in aangepaste vorm. Vermoedelijk wordt gewerkt aan strengere filters of beperkingen op het type prompts dat wordt geaccepteerd.
Les voor marketeers en content makers
Voor wie professioneel met content en zoekmachines werkt, is dit incident meer dan een curiosum. Het toont opnieuw dat AI-gegenereerde beelden van bestaande locaties niet zomaar als betrouwbaar bronmateriaal gebruikt mogen worden.
- Controleer AI-gegenereerde locatiebeelden altijd op feitelijke juistheid voordat je ze publiceert of deelt
- Wees terughoudend met het combineren van AI-beeldgeneratie en echte, herkenbare plaatsnamen in eigen content
- Houd rekening met reputatieschade als je platform of merk onbedoeld nepbeelden van rampen verspreidt
- Volg productupdates van grote platforms op de voet, functies verschijnen en verdwijnen momenteel razendsnel
Het voorval past in een breder patroon waarbij AI-beeldtools van grote spelers keer op keer sneller worden ingezet voor misbruik dan de bedrijven zelf kunnen bijsturen. Voor wie afhankelijk is van Google's producten in zijn dagelijkse werk, is dit een signaal om functies pas te vertrouwen nadat ze een tijdje in de praktijk hebben bewezen stabiel en veilig te zijn.
Bron: Search Engine Journal