Algorithmic Polarization on TikTok and YouTube

Integriteitsanalyse tijdens de verkiezingen voor het EU-Parlement in 2024 in Nederland

AI verspreidt zich snel, maar is vaak ondoorzichtig en onverklaarbaar. Aanbevelingssystemen voor sociale media zijn bijzonder invloedrijk. Ze zijn de poortwachters van het internet en het informatie-ecosysteem.

De groeiende invloed van sociale media op verkiezingsprocessen, toenemende maatschappelijke fricties en het institutioneel wantrouwen, hebben de integriteit en stabiliteit van de EU aangetast. Het is daarom van belang om meer inzicht te krijgen in mogelijke online polarisatiemechanismen die de integriteit van het verkiezingsproces kunnen aantasten.

Met dit project werd via gratis open source software onderzoek gedaan naar de verspreiding van politieke content op TikTok en YouTube in Nederland en de rol van algoritmes hierin tijdens de EU-parlementsverkiezingen 2024.

Resultaten

Het project bracht inconsistenties aan het licht in de manier waarop AI-chatbots zoals Copilot, ChatGPT en Gemini omgaan met verkiezings-gerelateerde content, en riep zorgen op over disinformatie en moderatie binnen verschillende contexten en talen.

De onderzoekers werken mee aan een boek, in samenwerking met de UvA en gesteund door het Ministerie van Binnenlandse Zaken, over de toepassing van de Digital Service Act in Nederland.

Nieuwsuur

Nieuwsuur besteedde aandacht aan het onderzoek in mei 2024 (eerste item): Nieuwsuur | NPO Start. Een langere versie van deze uitzending is op YouTube te vinden: Hoe AI (nu al) verkiezingen beïnvloedt.

Zie ook dit NOS-artikel: Chatbots recommend disinformation and fear mongering, tech companies tighten restrictions en Information on the methodology: Ophef episode about AI and election campaigns.

Publicaties

Tussentijds rapport: SummerSchool2024PropagandaAsAService < Dmi < Foswiki

Eindrapport: Chatbots: (S)elected Moderation | AI Forensics