Op 7 november werden de Internet Scriptieprijzen 2019 uitgereikt. Winnaar van de SIDN fonds prijs voor de beste scriptie op het gebied van internet en maatschappij is Pauline Kuss met haar onderzoek naar conversational agents. Ze belicht de ethische issues en deed een analyse naar de huidige Europese wetgeving op dit vlak.
Pauline Kuss is winnaar van de SIDN fonds scriptieprijs 2019 voor de beste scriptie op het gebied van Internet & maatschappij. Als afronding van haar master Law and Technology aan de Tilburg University nam Pauline de invloed van conversational agents (zoals Google Duplex) onder de loep. Deze agents zijn in taalgebruik en sociale interactie haast niet van een mens te onderscheiden. Dat je in feite met een computer te maken hebt, die gebruik maakt van kunstmatige intelligentie, hebben mensen vaak niet in de gaten. Pauline bestempelt deze agents als ‘Deceptive by Design’, ontworpen om ons te manipuleren door ons gedrag een bepaalde kant op te sturen.
Hoe gaan we om met de ethische issues op het vlak van privacy en potentiële manipulatie? Is de huidige Europese wetgeving in staat om met deze uitdagingen om te gaan? Met haar analyse laat Pauline zeer vakkundig zien dat wanneer het gaat om deze nieuwe technologieën de wet tekortschiet in de bescherming van gebruikers. De juridische lacune die ze heeft ontdekt, geeft aan dat er veel belangrijk werk te doen staat voor een nieuwe generatie innovatieve academici en advocaten. We stelden Pauline een paar vragen!
“Ik houd me al een tijdje bezig met kwesties rond de vraag hoe we als individuen controle kunnen houden over onze persoonlijke gegevens in een wereld die op technisch niveau steeds complexer en onbegrijpelijker wordt. Begrijpen hoe de wereld om ons heen 'werkt', welke factoren ons gedrag beïnvloeden en wat de implicaties van onze acties zijn, wordt voor mensen een steeds grotere uitdaging. Het voorbeeld van Duplex als conversational agent die in staat is met je te communiceren op een manier die perfect menselijk lijkt, illustreert voor mij nog een ander scenario. Dat waarin we autonome computersysteem integreren in het persoonlijke aspect van ons dagelijks leven, namelijk sociale interactie en persoonlijke relaties. Ik begon na te denken over de impact hiervan. Wat doet het ons individueel, maar ook op maatschappelijk niveau, wanneer we niet zeker zijn over het feit of de stem waarmee we praten inderdaad van de menselijke persoon is die we denken dat het is? Zouden we ons anders gedragen als we wisten dat het geen persoon is die belt, maar een slim computersysteem met geavanceerde dataverwerkingscapaciteiten? Ik was meteen geïntrigeerd door deze vragen en de maatschappelijke relevantie hiervan en zag mijn masterscriptie als een geweldige kans om hier dieper op in te gaan.”
“Een van mijn intenties was om het manipulatieve potentieel van conversational agents te illustreren. Dit vormt de aanleiding tot een breed scala aan zorgen, vooral in combinatie met ontwikkelingen op het gebied van spraakimitatie-algoritmen. Denk aan manipulatie vanuit persoonlijk of commercieel belang, politieke propaganda, of de mogelijkheid van auditorial deepfakes. Conversational agents laten ook de potentiële grenzen zien van onze huidige wetgeving, waarbij de focus ligt op consent van de gebruiker. Ten slotte heb ik in mijn juridische analyse een aantal lacunes in de regelgeving geïdentificeerd, wat illustreert dat ons huidige juridische kader onvoldoende rekening houdt met de problemen waar we met conversational agents mee te maken hebben. Kijkend naar de huidige Europese wetgeving inzake gegevensbescherming en privacy, betoog ik dat conversational agents zoals Duplex niet legaal binnen de EU kunnen worden geëxploiteerd, zelfs niet wanneer ze hun synthetische aard onthullen aan het begin van een telefoongesprek."
“Momenteel werk ik bij een digitaal adviesbureau in Berlijn. Ik overweeg echter inderdaad om in de toekomst mijn onderzoek voort te zetten, omdat het werk dat ik voor mijn master scriptie heb gedaan slechts het begin kan zijn van een veel grotere en uiterst relevante discussie, die de komende jaren nog belangrijker zal worden. Ik voel me zeer vereerd met het winnen van de SIDN fonds prijs. Zelf heb ik enorm genoten van het werken aan dit onderwerp en het is geweldig dat de relevantie van de kwesties waarover ik heb geschreven wordt gezien door experts in het veld. Samen met mijn promotor prof. Dr. Ronald Leenes van de Tilburg University werk ik daarom aan een publicatie die enkele resultaten van mijn onderzoek in het academische debat plaatst. Wat betreft het bredere publieke debat, ben ik betrokken bij verschillende denktanks die zich richten op de sociale impact van technologische innovatie. In deze context werk ik momenteel ook aan bijdragen aan korte publicaties die gericht zijn op een breder publiek. Ik ben benieuwd waar deze onderwerpen in de toekomst toe gaan leiden.”
Naast de SIDN fonds prijs werden ook prijzen uitgereikt voor de beste scripties op het gebied van internet & recht (Brinkhof prijs), internet & economie (Google prijs) en internet & techniek (Greenhost prijs). Winnaars zijn respectievelijk Marlinde Nannings, Sophie Lathouwers, Marlinde Nannings en Jenneke van der Velden. Lees meer op: https://www.khmw.nl/uitreiking-internetscriptieprijzen-2019/
Foto’s: Hilde de Wolf