Manipulatief AI-gedrag herkennen en beperken
Het project richt zich op het beschermen van Nederlandse internetgebruikers tegen manipulatief gedrag van AI. Met een combinatie van een online testkader en educatieve middelen biedt het tools om AI-interacties te begrijpen en risico’s te beperken.
Het project stelt Nederlandse internetgebruikers in staat manipulatief gedrag van AI te herkennen en aan te pakken. Door een open tool te ontwikkelen kunnen gebruikers AI-chatbotinteracties analyseren op kenmerken zoals sociale manipulatie en persoonlijkheidsdimensies. Dit testkader is gebaseerd op gevalideerd psychologisch onderzoek en omvat zelfrapportagevragenlijsten en gedragstesten.
In samenwerking met Nederlandse universiteiten en AI-ethische organisaties wordt een wetenschappelijk robuust raamwerk opgezet. Dit biedt niet alleen inzicht in AI-gedrag, maar ondersteunt ook juridische acties tegen bedrijven die ongewenst AI-gedrag inzetten. Het project levert een vrij toegankelijk API-endpoint en een gebruiksvriendelijke website.
Dit initiatief draagt bij aan een veiligere digitale omgeving en sluit aan bij de EU AI Act. Door verantwoord en ethisch gebruik van AI te stimuleren, wordt een balans gezocht tussen de voordelen van AI-integratie en de bescherming van gebruikers. Zo werkt het project aan een transparanter en betrouwbaarder AI-ecosysteem voor Nederland.
Het project streeft naar samenwerking met organisaties zoals DIVD en ShadowServer, die zich inzetten voor wereldwijde internetveiligheid. Door digitale veiligheid laagdrempelig te maken, wil dit project een wereld mogelijk maken waarin veiligheid geen privilege is, maar een toegankelijk recht voor iedereen.
Dit is een pioniersproject. SIDN fonds ondersteunt projecten in de idee-fase, zodat het idee door een sterk team verder uitgewerkt kan worden naar een eerste versie, pilot of experimenteel ontwerp.