AI en internationalisatie voor SCARt
Uitbreiding van de procesautomatiseringssoftware voor het Meldpunt Kinderporno en aanpassing t.b.v. internationaal gebruik.
AI helpt om sneller meer online kinderporno te verwijderen
De hoeveelheid online kinderporno groeit wereldwijd exponentieel. Sexual Child Abuse Reporting Tool (SCARt) helpt het Nederlandse Meldpunt Kinderporno bij het classificeren van dergelijk materiaal en het versturen van notice- en takedown meldingen. Met dit project wordt de tool verder uitgebreid met Artificial Intelligence tooling en slimme hashing algoritmes. Ook wordt SCARt geschikt gemaakt voor internationaal gebruik. Deze automatisering zal meldpunten in verschillende landen helpen om in een korter tijdsbestek meer online kinderporno te verwijderen. Het zo snel mogelijk offline halen van materiaal, beschermt slachtoffers en beperkt de aanwas van nieuwe daders. Daarnaast helpt automatisering de mentale belasting voor medewerkers bij meldpunten te verminderen.
Dit project is een vervolg op het eerder ondersteunde project ‘Procesautomatisering voor internetmisbruik meldende organisaties’.
Dit is een gescout project. We steunen projecten met potentie, zodat de ontwikkelde tool of oplossing breed ingezet of geadopteerd kan worden. Gescoute projecten zijn projecten die alleen op uitnodiging bij ons kunnen aanvragen.
Verlichting door automatisering
JUNI 21 | Lees meer over SCARt in het interview van Netkwesties met Arda Gerkens van het Expertisebureau Online Kindermisbruik (EOKM). De SCARt software zorgt er onder meer voor dat het werk van EOKM medewerkers wordt verlicht, omdat ze nu niet meer zelf alle afbeeldingen hoeven te bekijken. Lees het artikel Herkenning kinderporno geautomatiseerd, en ‘shaming’ van slechte hosters (Netkwesties, 06-06-21).
Interesse vanuit Europa
DEC 21 | De Europese Commissie wil onderzoeken of de Nederlandse diensten HashCheckService en SCARt ook in andere landen kunnen worden ingezet om afbeeldingen van kindermisbruik op te sporen. Lees het artikel Europa toont interesse in inzet van Nederlandse kindermisbruikdetectiealgoritmes (Tweakers, 09-12-21).
Software in de strijd tegen illegale en schadelijke content
MEI 22 | Wido Potters en Els de Jong vertellen in een interview met dotmagazine over de inzet van software in de strijd tegen kinderporno online en de tool SCARt. Lees het artikel Fighting the good fight: preventing the spread of CSAM with software.
Resultaten
MEI 23 | Het project is afgerond. De inzet van AI in SCARt zorgt voor geautomatiseerde detectie van afbeeldingen van kindermisbruik en versnelt daarmee het offline krijgen van dergelijke beelden. Het geschikt maken van SCARt voor gebruik door andere meldpunten dan het Nederlandse Meldpunt Kinderporno heeft geleid tot uitrol van de software bij meerdere buitenlandse meldpunten.
