Transparent AI
De black box die AI heet: Hoe geef je als organisatie inzicht in het complete proces?
AI processen inzichtelijk maken
Op basis van artificiële intelligentie (AI) worden steeds meer beslissingen genomen, ook zeer ingrijpende beslissingen zoals wel of geen hypotheekverstrekking bijvoorbeeld. De complexe technologie heeft veel weg van een ‘black box’. Voor het vertrouwen van de eindgebruiker is transparantie echter essentieel. Maar hoe kunnen organisaties hun AI processen inzichtelijk maken? Met dit project wordt onderzocht of het mogelijk is om door middel van interactieve datavisualisatie te laten zien hoe AI wordt gebruikt. Insteek is het complete proces in kaart te brengen, van brondata, training en werking van de AI, tot de interpretatie van de uitkomsten. (Call 2, 2018)
Dit is een pioniersproject. SIDN fonds ondersteunt projecten in de idee-fase, zodat het idee door een sterk team verder uitgewerkt kan worden naar een eerste versie, pilot of experimenteel ontwerp.
Resultaten
JAN 20 | Het project is afgerond. Na een inventarisatie van bestaand werk op het gebied van AI visualisatie, is een verhaallijn ontwikkeld die de belangrijkste concepten van AI uitleggen en hoe een verkeerd gebruik van AI kan leiden naar bias in de beslissingen van het systeem. Dit resulteerde in het ontwerp voor een online ervaring waarmee scholieren meer inzicht krijgen welke risico’s AI gedreven beslissingen met zich meebrengen en welke factoren daarbij relevant zijn. Als vervolgstap zou dit ontwerp uitgewerkt kunnen worden tot een werkend product, inclusief het ondersteunend lesmateriaal.
In het blog 'Transparent AI - Labelling Artificial Intelligence as a black box is not helping us, so we used design to show we can change this' lees je meer over het project en de bevindingen.