Vijf vormen van manipulatie door online platforms

Youtube, Facebook en Instagram bepalen in grote mate welke informatie wij tot ons krijgen en hoe wij de wereld zien. “Deze online platforms worden beheerd door slechts twee Amerikaanse techgiganten: Google en Facebook,” vertelt Esther Crabbendam van Bits of Freedom. Maar wat weten wij eigenlijk over hoe deze platforms werken? En hoe kun je mensen op een toegankelijke manier informeren over zo’n complex onderwerp? 

Holly Robbins, onderzoeker bij TU Eindhoven, onderzocht voor Bits of Freedom de manieren waarop online platforms ons informatielandschap manipuleren. Omdat het niet mogelijk is om inzage te krijgen in de algoritmes van Google en Facebook, begon Robbins met literatuuronderzoek en las zij interviews met oud-ontwerpers van de online platforms. Daarnaast deed zij designanalyse om te onderzoeken hoe ontwerpkeuzes van de platforms gedrag van gebruikers beïnvloeden. Zij werkte voor haar onderzoek onder meer samen met AlgorithmWatch, een in Berlijn gevestigde organisatie die zich toelegt op het ontleden van algoritmes van platforms en net als Bits of Freedom wordt gesteund door SIDN fonds en Adessium om de politieke impact van Instagram te ontrafelen.

Taxonomie van online platforms

Robbins’ onderzoek resulteerde in een ‘taxonomie van online platforms’ met vijf vormen van manipulatie.

1. Profilering – Deze vorm van manipulatie draait om het grootschalig binnenhalen van gebruikersdata op het platform én daarbuiten. Door de combinatie van datasets ontstaan gedetailleerde profielen van gebruikers die worden ingezet voor gerichte advertenties (‘micro-targeting’) en keuzes van platforms over welke informatie prominenter wordt getoond. Profilering heeft zowel impact op de privacy van de gebruiker als maatschappelijke gevolgen.

2. Prioritering – Dit gaat over de algoritmes die bepalen welke informatie prominenter wordt getoond. Over het algemeen worden sensationele en extreme berichten prominenter getoond, en krijgen berichten van beroemdheden of mensen met veel volgers of likes meer podium dan die van ‘gewone’ mensen. Dit maakt dat het als gebruiker of medium loont om je informatie steeds extremer in te steken en heeft grote invloed op de publieke sfeer.

3. Censuur – Censuur betreft het modereerbeleid van online platforms. Het gaat om een combinatie van kunstmatige intelligentie en menselijke moderatoren die berichten beoordelen die door andere gebruikers gerapporteerd zijn. Gebruikers van wie berichten verwijderd worden krijgen vaak geen of minimale verantwoording van online platforms en ze hebben nauwelijks mogelijkheden om in beroep te gaan. 

4. ‘Dark patterns’ – Dit gaat over ontwerpkeuzes die bepaald gedrag aanmoedigen en ander gedrag ontmoedigen. Bijvoorbeeld door in de default-settings zo min mogelijk privacy aan te bieden, knoppen voor het delen van data groter of een aantrekkelijkere kleur te geven en minder gewenste functionaliteiten te verbergen in een dropdownmenu. Het ontwerp is zo ingericht om gebruikers zo lang mogelijk op het platform te laten zijn en zoveel mogelijk informatie te laten delen.

5. Zelfmanipulatie – De laatste vorm van manipulatie gaat over hoe wij zélf veranderen door gebruik van sociale media. Wij beginnen gedrag te vertonen dat wordt beloond door het algoritme: we formuleren meningen zo puntig mogelijk, poseren op een manier die resulteert in veel likes en zijn bij een concert druk bezig met het zoeken naar het juiste fotomoment voor een Instagrambericht. 

Korte Cursus Manipulatie

Om aanschouwelijk te maken wat deze vijf vormen van manipulatie voor effect hebben op ons en de maatschappij, interviewt Bits of Freedom verschillende mensen die hiermee te maken hebben gehad. Robbins’ onderzoek en de interviews vormen de basis voor verdere actie, vertelt Crabbendam: “We willen burgers informeren én helpen wapenen tegen manipulatie door online platforms.” Op 23 februari 2021 presenteert Bits of Freedom daarom een ‘Korte Cursus Manipulatie’: een toegankelijke onlinecursus voor een breed publiek met informatie over de vijf vormen van manipulatie, aansprekende quotes uit de interviews en acties die je tegen de verschillende vormen manipulatie kunt ondernemen. 

Daarnaast wordt het onderzoek omgeschreven tot een bondig rapport voor beleidsmakers, activisten en onderzoekers. “We willen dit rapport vertalen naar het Engels en delen met EDRi, dat op Europees niveau lobbyt voor de bescherming en versterking van digitale burgerrechten,” zegt Crabbendam. Ook de Korte Cursus Manipulatie wordt vertaald en beschikbaar gesteld voor alle digitale burgerrechtenorganisaties die deze in hun land willen verspreiden. “Want het bestrijden van manipulatie door Google en Facebook lukt ons niet alleen. Wij hebben een brede, internationale burgerbeweging nodig.”

Bekijk de complete artikelenreeks over de Publieke waarden projecten.