Hoe beschermen we de samenleving tegen desinformatie?

Tools voor journalisten en onderzoekers

Niet eens zo lang geleden had een verslaggever genoeg aan een blocnote, een pen en een luisterend oor. Nu het dagelijks leven is vervlochten met wat zich deels online afspeelt, hebben journalisten ook daar voelsprieten nodig, bijvoorbeeld om te weten wat er leeft onder geradicaliseerde groeperingen, of om te controleren welke informatie politieke partijen verspreiden onder hun achterban. Maar waar te beginnen? Alleen al op YouTube wordt iedere minuut 500 uur aan video geüpload. We bespreken drie tools die journalisten, onderzoekers en andere geïnteresseerden op weg helpen in het eindeloos uitdijende universum dat het internet heet.

Radicale content op YouTube doorzoeken

Stel dat je je verdiept in rechts-radicale YouTube-kanalen en je wil weten wat er in video's van deze kanalen wordt beweerd over een bepaalde kwestie. Dan is het niet erg efficiënt om een heleboel lange video's door te spitten in de hoop dat het onderwerp ter sprake komt. Met de tool RadiTube kun je video’s doorzoeken aan de hand van zoektermen. Zo krijg je beter toegang tot desinformatie op YouTube. De tool geeft allereerst inzicht in hoe kanalen met elkaar zijn verbonden. Als je een link naar een YouTube-kanaal invoert, vindt de tool kanalen met een overlap in publieke abonnementen. Een netwerkgrafiek laat zien hoe de kanalen met elkaar zijn verweven. Vervolgens kun je video's van de verzamelde kanalen doorzoeken op bepaalde zoektermen. In RadiTube kun je op een woord klikken om direct het betreffende fragment te bekijken. Daarbij zul je varianten op zoektermen moeten proberen die de kanalen gebruiken om onder de radar van YouTube te blijven, bijvoorbeeld 'jq', wat rechts-extremisten gebruiken voor 'the Jewish question'.

RadiTube begon als een door SIDN fonds gesteund project en ontwikkelde de tool voor onderzoekers en journalisten. Inmiddels helpen ze ook adverteerders om niet langer op controversiële video's te adverteren. 'Daarmee beschermen we niet alleen de reputatie van bedrijven, maar zorgen we ook dat de mensen achter de kanalen minder geld verdienen met hun content,' vertelt Erik van Zummeren, mede-oprichter van RadiTube. Voor onderzoekers en journalisten is de tool gratis beschikbaar. Stuur een verzoek naar RadiTube als je de tool wil gebruiken.

Knip- en plakwerk in video's opsporen

Politieke partijen hebben nog wel eens de neiging om videofragmenten van Kamerdebatten in hun voordeel te presenteren. 'Op sociale media worden filmpjes gepost die door de partijen zo zijn gemonteerd dat ze helemaal voldoen aan hun beschrijving van hoe de wereld in elkaar zit,' zegt Frank Visser van Stichting Media Perspectives. Ook derden kunnen dit principe eenvoudig toepassen om hun verhaal, fake news of complottheorieën kracht bij te zetten. Maar hoe weet je of wat je ziet gemanipuleerd of authentiek is? Per week worden honderden uren videocontent geproduceerd in de Tweede Kamer, dus het is een flinke klus om uit te vinden of er sprake is van knip- en plakwerk. De tool Video Factchecker, een samenwerking van Stichting Media Perspectives, RTL en Beeld & Geluid, neemt journalisten of betrokken burgers die taak uit handen. Het algoritme van de Video Factchecker vergelijkt een video van sociale media met de tijdlijn van de beelden van de Tweede Kamer, zodat je snel kunt zien of het antwoord bij de vraagt hoort. Om die check te doen, worden er een soort QR-codes van de video gemaakt, die het algoritme vervolgens vergelijkt met 'QR-codes' van het bronmateriaal. Hoe groter de overeenkomst, hoe groter de kans op een match. Daarover zegt Frank: 'Onze tool werkt best goed, maar er zit een zekere mate van fuzziness in.' Dat komt dan weer omdat de diversiteit in de Tweede Kamer te wensen overlaat. Met een vrouw in een rode jurk weet het algoritme wel raad, maar het struikelt soms over de vele beelden van orerende mannen in blauwe pakken. Was dat nou Wopke of toch Pieter? Als extra check kunnen de gevonden fragmenten via de tijdcodelinks direct bij de bron, www.debatgemist.nl, worden teruggekeken, om alle verdere manipulatie uit te sluiten.

Op dit moment staan alleen de algemene beschouwingen van 2022 in de tool, maar de ambitie is om alle Tweede Kamer-debatten op te nemen. Omdat het maken van de 'QR-codes', de zogeheten hashing, bij voorkeur plaatsvindt op de plek waar het bronmateriaal is opgeslagen, hoopt Visser dat de Tweede Kamer dit in het eigen proces wil inbouwen. Daarover gaan ze in gesprek.

Deepfakes in beeld èn geluid detecteren

Nog lastiger om de waarheid te achterhalen is het als de inhoud is gemanipuleerd. De ontwikkelingen op het gebied van synthetische media gaan razendsnel. Afbeeldingen, tekst, audio- of videofragementen worden aangepast of zelfs helemaal gegenereerd door kunstmatige intelligentie. Vaak worden synthetische media 'deepfakes' genoemd, maar er is veel voor te zeggen om die term te bewaren voor synthetische media die bewust worden ingezet om desinformatie te verspreiden. De tool DeepfakeProof: plugin voor deepfake detectie biedt dan uitkomst. Met deze plugin scan je eenvoudig een website op synthetische media, zoals bijvoorbeeld foto’s van niet bestaande mensen. 

Met name door de komst van ChatGPT, de laagdrempelige AI-tekstgenerator, neemt de interesse voor synthetische media onder het grote publiek toe. Toch merkt Joris Mollinga van DuckDuckGoose, dat de plugin ontwikkelde, dat een gevoel van urgentie vaak nog ontbreekt. 'Wij zijn vroeg op de markt. Er is nog een lange weg te gaan voordat mensen iets proactief installeren om te voorkomen ze worden beetgenomen met deepfakes.' Journalisten verwachten bovendien vaak dat deepfakedetectie al is ingebouwd in de software voor bronnenverificatie die op veel redacties wordt gebruikt. Dat is niet het geval. De deepfakedetectiesoftware van DuckDuckGoose zit al wel in tools voor forensische beeldanalyse, maar dat is een andere tak van sport. Momenteel werkt DuckDuckGoose ondersteund door SIDN fonds opnieuw voor de troepen uit, ditmaal aan een tool voor het detecteren van synthetische audiofragmenten. Daarvoor wordt kunstmatige intelligentie getraind met grote hoeveelheden echte en synthetische Nederlandstalige spraakfragmenten, zodat het leert om het subtiele onderscheid tussen de twee te herkennen. De tool kan onder meer worden ingezet om fraude met voice cloningtegen te gaan. Dat is het creëren van synthetische media op basis van een opname van iemand stem, bijvoorbeeld om te doen alsof de CEO van een bedrijf vraagt of er een som geld kan worden overgemaakt.

Wat is er nodig?

Volgens de projectleiders zijn er veel interessante tools vrij beschikbaar. Toch is het niet zo gek dat een tool als DeepfakeProof nog niet standaard aan staat in de browser van de gemiddelde journalist. Synthetische media zijn een relatief nieuw fenomeen en het kost tijd om je nieuwe tools eigen te maken en ze in je werkritme op te nemen. Juist die tijd ontbreekt vaak. Journalisten benaderen Erik van RadiTube regelmatig met onderzoeksvragen in de hoop dat hij RadiTube voor ze wil inzetten, in plaats van dat ze de tool zelf leren te gebruiken. De piekgebruikers van de tool zijn dan ook in YouTube gespecialiseerde academici. Daarom ziet Erik een nieuwe taak voor RadiTube weggelegd. 'Er vindt veel onderzoek plaats naar desinformatie, door wetenschappers, non-profits en overheidsorganisaties, maar de resultaten raken versnipperd. Met de tool willen we het onderzoek naar YouTube stroomlijnen, de bevindingen van onderzoekers systematiseren en opslaan in collectieve datasets voor journalisten, onderzoekers en adverteerders.' Mettertijd wordt de toolbox om grip te krijgen op desinformatie steeds groter en interessanter.