Terug naar overzicht

Morele Mario

Responsible AI, SuperMario

Test met Super Mario hoe veilig en controleerbaar je AI algoritmes zijn.

morelemario_880

Zelflerende Mario

De veiligheid en controleerbaarheid van artificiële intelligentie (AI) wordt steeds belangrijker. Maar hoe test je AI algoritmes op veiligheid en controleerbaarheid? Dit project ontwikkelt een benchmark op basis van een SuperMario omgeving. Een zelflerende Mario komt in verschillende levels veiligheidsproblemen tegen, aan de hand waarvan AI algoritmes langs de meetlat van veiligheid en controleerbaarheid worden gelegd. Ontwikkelaars kunnen zo testen of hun Mario niet alleen Super maar ook Moreel is. Door een omgeving te creëren waar AI algoritmen getest worden, draagt het project ook bij aan een gerichtere discussie over wat veilige en controleerbare AI algoritmen zijn. (Call 2, 2018)

Dit is een pioniersproject. SIDN fonds ondersteunt projecten in de idee-fase, zodat het idee door een sterk team verder uitgewerkt kan worden naar een eerste versie, pilot of experimenteel ontwerp.

Resultaten

JULI 19 | Het project is afgerond. Er is een opzet gemaakt voor een zelflerende Mario omgeving waar veilige AI bestudeerd kan worden. Er zijn verschillende omgevingen beschikbaar en verschillende oplossingen uit de techniek, inclusief het eigen ontwikkelde empathic Deep Q-Learning algoritme (gevalideerd in een grid world omgeving maar nog niet succesvol in de Mario omgeving). Het rapport en de software module, zijn beschikbaar voor andere onderzoekers in dit vakgebied.

Afbeelding (bewerkt): Ammon Beckstrom / Itsa Me, Mario! / CC BY