Overspoelen AI-Gegenereerde Afbeeldingen het Internet?

In samenwerking met de Volkskrant deed ik onderzoek naar de invasie van AI-gegenereerde afbeeldingen in Google's zoekresultaten. Het blijkt dat kunstmatige intelligentie zich steeds vaker tussen echte beelden wurmt. Bij onderwerpen als "beauty" is maar 69% van de afbeeldingen nog daadwerkelijk echt. Door 4.248 zoekopdrachten te analyseren met geavanceerde detectiemodellen, brachten we in kaart hoe groot dit probleem werkelijk is.

De omvang van het probleem

We analyseerden systematisch zoekresultaten voor afbeeldingen in meerdere talen en annoteerden duizenden afbeeldingen om te bepalen of het authentieke foto's of AI-gegenereerde content betrof. De resultaten waren opvallend: bepaalde categorieën toonden meer dan 20% van de zoekresultaten geclassificeerd als 'Nep' of 'Niet zeker'.

Sommige categorieën worden meer getroffen dan andere. Babydieren worden sterk gedomineerd door synthetische content, misschien omdat AI-gegenereerde babydieren met overdreven kenmerken viraal gaan en veel gedeeld worden.

Taal maakt uit

Hoewel alle talen vergelijkbare patronen vertoonden, lieten Nederlandse en Spaanse zoekopdrachten iets hogere percentages AI-gegenereerde afbeeldingen zien, rond de 20%. Dit suggereert dat niet-Engelstalige markten vatbaarder zijn voor synthetische content.

Waarom dit verder gaat dan babydieren

Deze bevinding is een kanarie in de kolenmijn. AI-gegenereerde media heeft het potentieel om de politiek op significante wijze te beïnvloeden, vooral als het gaat om desinformatie. Naarmate AI-tools geavanceerder worden, wordt het onderscheid tussen echte en gefabriceerde beelden steeds moeilijker.

Tijdens verkiezingen of politieke campagnes kan AI-gegenereerde content, zoals video's die een politicus laten zien die iets zegt of doet wat nooit heeft plaatsgevonden, zich razendsnel verspreiden op sociale media. Tegen de tijd dat factcheckers bijbenen, is de schade vaak al aangericht.

De gevolgen reiken verder dan je zou denken. Als we niet meer kunnen onderscheiden wat authentiek is, ondermijnt dit de informatiekwaliteit waarop onze democratie steunt. We zijn als maatschappij nog aan het herstellen van de impact van sociale media, en worden nu alweer geconfronteerd met nog complexere uitdagingen.

Wat kunnen we doen