Moral AI-gency: Ethical Guidelines for AI in Finance

Responsible AI-werkprocessen

De inzet van Artificial Intelligence (AI) door financiële organisaties kan flinke gevolgen hebben voor mensen. Juist in deze sector is het van belang om na te denken over ethische richtlijnen en concreet te werken aan transparantie en inzicht in de inzet van algoritmen. Voor partijen die hun AI-werkprocessen ‘responsible’ willen inrichten, is het lastig om precies te definiëren hoe die verantwoordelijkheid er uit moet zien. Het Moral AI-gency Handelingskader (initatief van JK Ventures samen met de Volksbank en de Erasmus Universiteit), biedt een ethisch kader met concrete morele richtlijnen die geworteld zijn in de werkpraktijk van de AI-developers binnen de bank. (Call 2, 2018)

ECP Jaarfestival: ethische inzet van AI

NOV 21 | Tijdens het ECP Jaarfestival 2021 vond de sessie ‘Ethische inzet van AI: verantwoorde inzet van algoritmen binnen je gemeente’ plaats. Deze sessie werd georganiseerd door Ministerie van Binnenlandse Zaken & Klimaat, Gemeente Nissewaard, SIDN, SIDN fonds, TNO en de Volksbank. Joris Krijger was een van de sprekers en deelde zijn ervaringen bij de Volksbank. Kijk de sessie hier terug.

AI en (gender)bias in de financiële sector

JAN 22 | In de NPO docureeks 'Reference Man' van BNN/VARA (11-01-22) vertelt Joris over het gebruik Artificial Intelligence (AI) bij banken en de bijkomende ethische discussies (vanaf min 9.50). Kijk de aflevering hier terug.

Ga naar video:

Over ethiek bij banken

MRT 22 | Joris Krijger was te gast bij Studio Erasmus en gaat in op racistische, seksistische of anderszins discriminerende IT-systemen en hoe we daar vanaf komen. Kijk de video hier terug.

Afspelen:

Best Societal Impact Award

FEB 22 | Joris Krijger is met zijn onderzoek winnaar van de Societal Impact Award 2021. Lees meer

Resultaten

MEI 22 | Het project is afgerond. Er is onderzoek gedaan naar de context waarbinnen AI wordt gebruikt bij de Volksbank en hoe deze wordt ingezet in use cases. Vervolgens is een handelingskader geformuleerd, op basis waarvan ingezette AI en methodes zijn gereviewd. Het project heeft een nieuwe werkwijze rond het implementeren van ethiek bij data science processen opgeleverd, die bij ongeveer 25 partijen 'in-house' concreet is toegelicht.

Het onderzoek heeft de volgend artikel opgeleverd: Enter the metrics: critical theory and organizational operationalization of AI ethics (sept 2021)

Met het project is een waardevolle bijdrage geleverd aan het implementeren van ethiek in data science contexten. De nieuwe werkwijze is geïmplementeerd bij de Volksbank, die als best practice momenteel voorop loopt in de inbedding en werkwijze van het ethisch toetsen van algoritmen. Middels trainingen, congressen en gastoptredens, ect. wordt de kennis zo breed mogelijk met andere organisaties gedeeld.

Ook is bijgedragen aan het opzetten van een AI gebruiksgroep. Hieruit is een open-ethics community ontstaan met mensen vanuit gemeenten, bedrijfsleven, zorg en overheid. Ondersteund door drie Leading Partners – De Sociale Verzekeringsbank, Univé en de Volksbank is in januari 2022 stichting EDSA (Ethische Data Science Associatie) opgericht. EDSA brengt experts rond data science ethiek samen. Zo willen ze de impact van data science ethiek vergroten en de implementatie van ethiek versnellen.