Hoe bescherm en bevorder je publieke waarden in een digitale samenleving?
Article in English Door digitalisering staat het functioneren van de democratie onder druk. SIDN fonds en Adessium Foundation ondersteunden met de call Publieke waarden in een digitale samenleving negen projecten die publieke waarden in een digitale samenleving willen beschermen en bevorderen. Hoe zijn de projecten verlopen en welke lessen kunnen we nu trekken?
Een sterk en vrij publiek debat is essentieel voor onze democratische samenleving. Digitalisering biedt hiervoor nieuwe mogelijkheden: niet eerder hadden individuen zo eenvoudig toegang tot informatie, niet eerder konden zij op zo’n grote schaal ideeën verspreiden, discussies aangaan en zich organiseren. Tegelijkertijd vormt het huidige digitale landschap ook een bedreiging voor publieke waarden. Een handvol grote technologiebedrijven heeft een onevenredig grote invloed op het digitale landschap, waardoor het publiek debat onder druk komt te staan.
Het publiek debat staat op verschillende manieren onder druk. Zo dragen weinig transparante algoritmes bij aan de verspreiding van desinformatie. Door het ontstaan van ‘filter bubbels’ komen mensen vooral in contact met gelijkgestemden, wat radicalisering in de hand werkt en een breed gedragen publiek debat in de weg staat. Met gerichte digitale campagnes kunnen politici verschillende groepen mensen verschillende dingen beloven, zonder dat ze dat van elkaar weten. Online haatcampagnes van trollenlegers zorgen voor nieuwe vormen van intimidatie en onderdrukken de vrijheid van meningsuiting. Al deze ontwikkelingen ondermijnen de informatiepositie van het individu en belemmeren het functioneren van de democratie.
SIDN fonds en Adessium Foundation hebben eind 2019 de call Publieke waarden in een digitale samenleving uitgezet. Daarmee worden projecten ondersteund op het gebied van ontwikkeling van alternatieve technologieën, onderzoek en onderwijsmethoden om publieke waarden in een digitale samenleving te beschermen en bevorderen. De negen gehonoreerde projecten zijn inmiddels afgerond. Dit artikel maakt de balans op: hoe zijn de projecten verlopen en welke lessen zijn daarbij geleerd? En meer in het algemeen: hoe kunnen publieke waarden in een digitale samenleving worden beschermd en bevorderd, waar liggen de kansen en uitdagingen?
De projecten zijn te verdelen in vier thema’s. Hieronder volgt een korte samenvatting van de projecten. Meer details over de projecten zijn te lezen in afzonderlijke artikelen waarnaar in de loop van dit artikel wordt gelinkt.
Drie projecten draaien om de vraag hoe persoonlijke data via techbedrijven worden gebruikt voor politieke doeleinden. Voor het project Personal data for political purposes van de in Berlijn gevestigde organisatie Tactical Tech deed freelancejournalist Marjolein van Trigt onderzoek naar de situatie in Nederland. Zij geeft verschillende voorbeelden van gerichte politieke onlinecampagnes, onder meer van GroenLinks, D66, VVD en Forum voor Democratie. VVD en Forum voor Democratie hebben samengewerkt met een Oostenrijks marketingbureau dat omstreden beïnvloedingsmethodes inzet die vergelijkbaar zijn met die van Cambridge Analytica. Van Trigt laat bovendien zien dat politieke partijen in Nederland tot weinig transparantie zijn verplicht als het gaat over gerichte onlinecampagnes. Om burgers te informeren over online strategieën van politieke partijen en hoe je je hier als burger tegen kunt wapenen, ontwikkelde Tactical Tech de Data Detox Kit. Voor dit project is de Digital Detox Kit vertaald naar het Nederlands, aangevuld met informatie die specifiek is voor de Nederlandse situatie en er is een informatieve video bij ontwikkeld.
Techbedrijven zijn weinig transparant over hoe politieke partijen hun platforms gebruiken. Twee projecten in deze call hebben daarom browserplugins ontwikkeld waarmee vrijwilligers kunnen bijdragen aan onderzoek naar politieke advertenties op techplatforms. Het project Towards a monitoring of Instagram van de in Berlijn gevestigde organisatie AlgorithmWatch wil het algoritme van Instagram doorgronden. AlgorithmWatch trok tijdens de Tweede Kamerverkiezingen van 2021 op met de Nederlandse mediapartners NOS, Pointer en de Groene Amsterdammer om te onderzoeken hoe politici gebruikmaken van Instagram. Uit het project, dat veel media-aandacht genereerde, blijkt onder meer dat politici beter selfies kunnen plaatsen op Instagram dan afbeeldingen met inhoudelijke boodschappen.
Het project Who’s using Facebook ads to win your vote van de Britse organisatie WhoTargetsMe biedt een browserplugin voor onderzoek naar politieke advertenties op Facebook. De plugin is sinds 2017 meer dan 50.000 keer geïnstalleerd in meer dan honderd landen. In dit project zijn politieke Facebookadvertenties tijdens de Nederlandse Tweede Kamerverkiezingen van 2021 onderzocht. WhoTargetsMe werkte hiervoor samen met het Instituut voor Informatierecht (IViR) van de Universiteit van Amsterdam. In Nederland blijkt vooral het CDA in te zetten op gerichte Facebookadvertenties – al heeft dat niet geresulteerd in een overwinning. Ook bij onderzoeken in andere landen vond WhoTargetsMe geen bewijs dat Facebookadvertenties bepalend zijn voor de uitkomst van verkiezingen.
Twee projecten binnen de call zijn gericht op het versterken van de positie van internetgebruikers. Digitale burgerrechtenorganisatie Bits of Freedom doet dat met het project Een Korte Cursus Manipulatie. Voor dit project deed Holly Robbins (postdoc bij TU Eindhoven) onderzoek naar de manieren waarop techbedrijven ons informatielandschap manipuleren. Op basis van literatuuronderzoek, interviews met oud-ontwerpers van techbedrijven en designanalyse ontwikkelde Robbins een ‘taxonomie van online platforms’ met vijf vormen van manipulatie: profilering, prioritering, censuur, ‘dark patterns’ en zelfmanipulatie.
Bits of Freedom heeft Robbins’ onderzoek gebruikt voor de Korte Cursus Manipulatie. Dat is een online tool waarmee een breed publiek wordt geïnformeerd over de vijf vormen van manipulatie en wat je kunt ondernemen om jezelf hiertegen te beschermen. De cursus is via een advertentie bij Uitzending Gemist onder de aandacht gebracht bij een breed publiek. Het onderzoek vormt daarnaast de basis voor een rapport voor beleidsmakers, activisten en onderzoekers om specialisten te informeren over online manipulatie. Via EDRi, de Europese evenknie van Bits of Freedom, wordt dit rapport ook internationaal verspreid.
Met More power to you! How social influencers can face down hate richt campagneplatform DeGoedeZaak zich op een specifiek probleem: online haatcampagnes tegen maatschappelijke veranderaars. Onderzoeker Ibtissam Abaâziz interviewde voor dit project verschillende maatschappelijke veranderaars om inzicht te krijgen in de strategieën van ‘trollen’. Ze laat zien dat online haatcampagnes een georganiseerd karakter hebben. Het onderzoek vormt de basis van de ‘trollentoolkit’ Eerste Hulp bij Online Haat van DeGoedeZaak, met tools en strategieën om maatschappelijke veranderaars te steunen tijdens trolaanvallen. De trollentoolkit kreeg veel media-aandacht en DeGoedeZaak voert ook zelf campagne over dit onderwerp.
Media voeden ons wereldbeeld en vormen een belangrijk onderdeel van onze democratie. Een compleet en divers nieuwsaanbod is essentieel voor een gezonde publieke sfeer. Maar bij inzet van online-aanbevelingssystemen is diversiteit geenszins gegarandeerd. Algoritmes geven doorgaans aanbevelingen op basis van wat mensen eerder interessant vonden, wat kan leiden tot een eenzijdig nieuwsaanbod en ‘filter bubbels’. Twee projecten binnen deze call willen developers op een andere manier laten nadenken over hun algoritmes om zo meer diverse nieuwsaanbevelingen tot stand te brengen.
Het Instituut voor Informatierecht (IViR) van de Universiteit van Amsterdam onderzoekt met het project Algorithms for freedom of expression and a well-informed public hoe diversiteit in nieuwsalgoritmes meetbaar kan worden vergroot. Met behulp van een ‘diversiteitstoolkit’ kunnen nieuwsorganisaties hun algoritmes op verschillende manieren diverser maken. Dit jaar wordt de toolkit getest bij nationale en internationale nieuwsorganisaties. Het onderzoek wordt verder onder de aandacht gebracht bij programmeurs via de conferentie Conference on Human Information Interaction and Retrieval (CHIIR 2021).
Het project Who would you like to be guided by? van het Institute for Media Studies van KU Leuven onderzoekt nieuwsalgoritmes vanuit het oogpunt van de gebruiker. Nieuwsconsumenten hebben op dit moment nauwelijks invloed op hun aanbevelingen. KU Leuven onderzocht het concept van ‘aanbevelingspersonages’ om mensen actief en bewust inspraak te geven. Uit workshops en interviews met nieuwsconsumenten kwamen drie ideale aanbevelingspersonages naar voren: de Expert, de Uitdager en de Ontspanner. Het onderzoek wordt gepresenteerd op de Conference on Human Factors in Computing Systems (CHI 21).
Tot slot bevat de call twee onderwijsprojecten voor jongeren. Jongeren zijn de burgers van de toekomst en groeien op in een wereld waarin de publieke sfeer deels online vorm krijgt. Hoe kunnen zij worden voorbereid op de digitale samenleving en de rol van publieke waarden daarin?
De Lesserie ethiek van kunstmatige intelligentie, data en democratie van SkillsDojo laat kinderen van tien tot veertien jaar met doe-, maak- en programmeerprojecten kennismaken met kunstmatige intelligentie en nadenken over de maatschappelijke gevolgen hiervan. De programma’s kunnen zelfstandig thuis of op school in klasverband worden uitgevoerd. De videoseries zijn zo’n tienduizend keer bekeken. Per 1 januari 2021 maakt SkillsDojo onderdeel uit van NBD Biblion, waarmee de lesseries onderdeel worden van het dienstenpakket voor openbare bibliotheken en mediatheken. Het bereik van de lesserie kan zo verder worden vergroot.
Het project Vox Pop Academy MBO pilot van Civinc richt zich op MBO-scholieren. Vox Pop Academy is een digitale onderwijsactiviteit die onlinediscussies faciliteert tussen jongeren met verschillende opvattingen. Het gesprek aangaan met mensen met een andere mening is namelijk een essentiële vaardigheid voor een gezonde democratie. In het huidige online landschap worden tegenstellingen echter vaak vergroot wat leidt tot meer verdeeldheid.
Voor een sessie van Vox Pop Academy beantwoordt de scholier eerst een aantal de stellingen. Vervolgens wordt hij of zij in een anonieme één-op-één chat gekoppeld aan iemand met een andere visie. De twee gaan met elkaar in gesprek; een bot geeft intussen tips om de discussie op gang te helpen en het gesprek beleefd en inhoudelijk te houden. Na afloop bespreekt de docent de uitslagen van de stellingen en de ervaringen van de scholieren.Afgelopen jaar deden drie MBO’s mee aan een pilot, de scholen waren zeer enthousiast.
Civinc heeft de technologie op basis van deze pilot verder ontwikkeld en wil de pilot landelijk opschalen. Voor volwassenen zette Civinc vergelijkbare technologie in tijdens de Tweede Kamerverkiezingen van 2021. Via Waaromkiesjij.nl zijn liefst 330.000 mensen met verschillende politieke voorkeuren aan elkaar gekoppeld in online speeddates. Waaromkiesjij.nl genereerde veel media-aandacht, onder meer door samenwerking met een PR-bureau. Bovendien had het project een groot bereik door een samenwerking met de online stemhulp Stemwijzer, die door 7,8 miljoen mensen is ingevuld. Een PhD-student onderzoekt voor Civinc de effecten van het discussiëren met een politieke tegenpool.
SIDN fonds en Adessium Foundation ondersteunden met deze call negen uiteenlopende projecten die op verschillende manieren bijdragen aan het beschermen van publieke waarden in een digitale samenleving. Welke lessen zijn hierbij geleerd? Hoe kan de impact van deze projecten worden vergroot? En, breder, hoe kunnen publieke waarden in een digitale samenleving worden beschermd en bevorderd? In bijeenkomsten bij de aanvang, halverwege en aan het eind van de call zijn deze vragen voorgelegd aan de projectleiders. Daaruit kwamen de volgende kansen en uitdagingen naar voren:
In het huidige digitale landschap liggen de machtsverhoudingen scheef. Een handvol grote technologiebedrijven bepaalt de spelregels; projecten die hieraan tegenwicht willen bieden – zoals in deze call – zijn in vergelijking (heel) klein. Dit leidt tot verschillende uitdagingen, onder meer op technisch, juridisch en strategisch vlak.
Op technisch vlak vormen de gesloten datasystemen van techbedrijven een grote uitdaging. Techbedrijven geven slechts beperkt inzage in hun algoritmes. Twee van de gesteunde projecten, van AlgorithmWatch en WhoTargetsMe, hebben browserplugins ontwikkeld om zelf data te verzamelen en zo inzicht te krijgen in het functioneren van techbedrijven. Zij lopen daarbij tegen technische beperkingen aan. Zo werken de plugins niet voor mobiele apps terwijl die steeds belangrijker worden. Ook lopen zij risico op juridische tegenwerking, waarbij de juridische slagkracht van techbedrijven vele malen groter is. AlgorithmWatch kreeg een waarschuwing van Facebook, WhoTargetsMe heeft niets van Facebook gehoord, al werd een vergelijkbaar project gericht op het monitoren van politieke Facebookadvertenties wel actief tegengewerkt door Facebook. Samenwerking op technisch en juridisch vlak zou de positie van kleine partijen kunnen verstevigen.
Ook op strategisch vlak kan de relatie met grote techbedrijven een uitdaging zijn. Sommige projecten stellen praktijken van techbedrijven ter discussie en willen beleidsveranderingen afdwingen door middel van regulering, anderen willen juist met techbedrijven in gesprek om ze te helpen op een andere manier naar algoritmes te kijken en verandering van binnenuit bevorderen. Alle projectleiders geven aan dat het moeilijk is om in contact te komen met techbedrijven: of het nou gaat om wederhoor, het ter discussie stellen van bepaalde praktijken of het aanbieden van een alternatieve technologie. Dit geldt ook voor het in contact komen met relevante beleidswerkers die mogelijk juridische en technische eisen kunnen stellen aan techbedrijven. Gezamenlijk optrekken biedt ook in dit opzicht wellicht kansen.
Digitalisering kent geen grenzen, techbedrijven opereren internationaal. De publieke sfeer en democratieën daarentegen zijn grotendeels nationaal en lokaal georganiseerd. Dat leidt tot verschillende uitdagingen. Enerzijds is het van belang om op lokaal niveau te weten wat er speelt en contacten te hebben met relevante (media)partners om een publiek op lokaal niveau te bereiken. Anderzijds is kennisuitwisseling en samenwerking op internationaal niveau nodig om zicht te krijgen op wat er gebeurt en om een effectief tegengeluid te laten horen.
Tactical Tech opereert daarom zowel op lokaal als internationaal niveau. Het onderzoekt in verschillende landen hoe politieke partijen data van burgers verzamelen voor politieke doeleinden. Zij werken hierbij samen met lokale journalisten en onderzoekers om diepgaand inzicht te krijgen in de situatie in een specifiek land (er zijn inmiddels zestien van dit soort landenstudies). Door deze landenstudies vervolgens te vergelijken wordt het bovendien mogelijk om dwarsverbanden te zien en patronen te herkennen. Op deze manier krijgt Tactical Tech inzicht in het complexe vraagstuk van de impact van gerichte politieke advertenties op lokaal én internationaal niveau. De uitdaging is om op lokaal niveau relevante samenwerkingspartners te vinden en vervolgens de juiste manier te vinden om de inzichten bijeen te brengen om impact te maken.
Sommige projecten werken samen met partijen in het buitenland om meer impact te maken. Budget voor vertalingen en het vinden van de juiste samenwerkingspartners om de doelgroep te bereiken zijn hierbij essentieel. Bits of Freedom vertaalt bijvoorbeeld het rapport voor beleidsmakers naar het Engels en deelt deze met EDRi, dat op Europees niveau lobbyt voor de bescherming en versterking van digitale burgerrechten. Ook de Korte Cursus Manipulatie wordt vertaald naar het Engels en gratis beschikbaar gesteld aan alle digitale burgerrechtenorganisaties die deze (al dan niet in hun eigen taal) in hun land willen verspreiden. DeGoedeZaak overweegt om samen te werken met andere campagneorganisaties in het buitenland om de impact van de trollentoolkit te vergroten.
Online manipulatie, privacy en democratie zijn relatief complexe en abstracte thema’s. Hoe breng je die onder de aandacht van een groot publiek? Een goedkope manier om te adverteren is via de grote techplatforms. Maar voor projecten die de macht van techbedrijven ter discussie stellen is dat geen logische optie. Bits of Freedom heeft daarom gekozen voor advertenties op Uitzending Gemist, het onlineplatform waar programma’s van de publieke omroep zijn terug te zien.
Ook is het niet altijd makkelijk om met journalisten in contact te komen. Civinc heeft daarom geïnvesteerd in samenwerking met een PR-bedrijf om Waaromkiesjij.nl te promoten. Dit heeft geresulteerd in aandacht in verschillende grote media. Daarnaast heeft de samenwerking met de Stemwijzer voor Civinc geleid tot een zeer groot bereik.
Verschillende projecten werkten samen met een mediapartner. Deze aanpak is vooral relevant als media door de samenwerking zélf nieuws kunnen genereren. AlgorithmWatch trok in Nederland bijvoorbeeld op met NOS, Pointer en de Groene Amsterdammer. De nieuwspartners kregen door de samenwerking toegang tot nieuwswaardige data; AlgorithmWatch kreeg meer vrijwilligers die data doneerden, waardoor het inzicht kreeg in het algoritme van Instagram.
WhoTargetsMe had een interessante aanpak om het bereik te vergroten: het ontwikkelde een specifieke dienst voor journalisten, Notify. Via Notify krijg je dagelijks automatisch een email van alle Facebookadvertenties van een bepaalde politieke partij die dag. Journalisten kunnen zo op de hoogte blijven van wat de kandidaten die zij volgen beloven in hun Facebookadvertenties. Dat leidt tot in potentie tot een vliegwieleffect: journalisten krijgen relevante informatie voor verhalen. Doordat WhoTargetsMe in die verhalen wordt genoemd krijgt WhoTargetsMe meer bekendheid, wat weer tot meer downloads van de browserplugin leidt, wat weer tot relevantere data leidt, enzovoort. Onder meer bij de verkiezingen in het Verenigd Koninkrijk werkte deze aanpak goed, maar in Nederland heeft WhoTargetsMe weinig media-aandacht gekregen en is de plugin relatief weinig gedownload. Het hebben van de juiste media-ingangen en die op het juiste moment activeren is en blijft een uitdaging, zeker bij internationaal opererende partijen.
Tot slot hebben de projecten – waar mogelijk – elkaar geholpen om meer bekendheid te genereren. Zo heeft Bits of Freedom de browserplugin van AlgorithmWatch in een nieuwsbrief onder de aandacht gebracht en verwijst de Digital Detox Kit van Tactical Tech naar de plugin van WhoTargetsMe. Ook op het vlak van publiek bereiken is samenwerken dus van groot belang.
Door de gevolgen van de coronamaatregelen zaten we een groot deel van 2020 aan ons huis gekluisterd. Ons leven wás al sterk verbonden met het digitale domein, door de coronamaatregelen werd dit versterkt en uitgebreid naar andere domeinen. Voor de projecten uit deze call betekende dit dat de urgentie alleen maar toenam. Tegelijkertijd werden ook de beperkingen van online-initiatieven duidelijk. Bij sommige projecten werd het belang van de fysieke interactie duidelijk.
Dat geldt bijvoorbeeld voor de onderwijsprojecten. De pilot voor MBO-leerlingen van Civinc vond plaats toen de scholen waren gesloten als gevolg van coronamaatregelen. Hoewel de deelnemende scholen blij waren met een initiatief dat bij uitstek geschikt is om op afstand te volgen, bleek ook hoe belangrijk fysiek onderwijs is. Zo kwam een deel van de leerlingen niet opdagen of haakte tijdens de sessies af. Een leraar die fysiek aanwezig is om te helpen, motiveren en uit te leggen had dit waarschijnlijk kunnen voorkomen. Om verder te kunnen schalen wil Civinc samenwerken met maatschappelijke organisaties die de debatten kunnen begeleiden.
Met de tools van SkillsDojo kunnen jongeren in principe zelf aan de slag. SkillsDojo zag een grote stijging in het aantal deelnemers van de lesseries tijdens de coronacrisis. Maar ook hier geldt dat de impact groter wordt als een docent de lesserie begeleidt en in context plaatst. Dat is een van de redenen waarom SkillsDojo voortaan onderdeel uitmaakt van NBD Biblion. NDB Biblion werkt samen met mediacoaches. Zij kunnen nu met de lesseries van SkillsDojo op scholen aan de slag en daarmee zowel de schaal en impact van de lesseries vergroten.
DeGoedeZaak laat in het onderzoek naar online trollen zien dat online en offline intimidatie in elkaar overlopen.Denk aan het lastigvallen van familieleden of de werkgever, of het dreigen met fysiek geweld. Online intimidatie is simpelweg één van de manieren om maatschappelijke veranderaars onder druk te zetten. Het staat niet los van fysieke intimidatie en zou ook niet anders moeten worden behandeld. In de strijd tegen trollen kan het daarom nuttig zijn om samen te werken met maatschappelijke organisaties om de impact te vergroten.
Het beschermen en bevorderen van publieke waarden in een digitale samenleving is een complex probleem waarvoor geen silver bullet bestaat. De projecten van de call van SIDN fonds en Adessium Foundation bestaan uit acties op verschillende niveaus om de macht van techbedrijven tegen te gaan en de democratie, de rechtstaat en onze privacy veilig te stellen. De projecten richten zich onder meer op onderwijs, het begrijpen hoe algoritmes van grote techplatforms precies werken, het informeren van een algemeen publiek en beleidsmakers, het aandragen van alternatieve technologieën, strategieën om de positie van de internetgebruiker te versterken, het diverser maken van automatische nieuwsaanbevelingen en het tegengaan van filter bubbels.
Om publieke waarden in een digitale samenleving structureel te beschermen is er effectieve wet- en regelgeving nodig om de macht van Big Tech in te kaderen. De laatste jaren is de politieke druk op techplatforms flink toegenomen. De Europese Unie en de Amerikaanse Federal Trade Commission legden Google en Facebook miljardenboetes op voor privacy schendingen en machtsmisbruik. Australië ging de strijd aan met Facebooks dominante rol in onze nieuwsvoorziening. In Nederland pleit onder meer de Raad voor het Openbaar Bestuur voor het aanstellen van een Minister van Digitale Zaken om burgers te beschermen tegen de macht van techbedrijven en betere verantwoording van automatische besluitvorming af te dwingen.
Ook in de publieke opinie is een kentering te zien als het gaat om de perceptie van Big Tech. Waar techbedrijven eerder werden bewonderd klinkt er nu kritiek. Wat overigens niet betekent dat er massaal voor alternatieve technologieën wordt gekozen. De ‘lock-in’-effecten van techplatforms zijn zo groot dat veel mensen er niet zonder kunnen. De omzetten en winsten van grote techbedrijven groeien nog altijd explosief en het coronajaar heeft de macht van techbedrijven verder bestendigd.
En de techbedrijven zelf? Vooralsnog lijkt het er niet op dat techbedrijven uit eigen beweging ingrijpend veranderen, maar door goede wet- en regelgeving, publieke druk én door goede ideeën voor het slim inrichten van algoritmes zou dit in de toekomst kunnen veranderen. De projecten van de call hebben hier allemaal op hun eigen manier aan bijgedragen. Door (internationaal) kennis uit te wisselen, verbindingen aan te gaan met relevante partners en het organiseren van media-aandacht kan de impact van de projecten verder worden vergroot zodat publieke waarden in een digitale samenleving worden veiliggesteld.
Lees meer over het thema publieke waarden