4D Doorgrond Discriminatie Digitale Differentatie
Heb je wel eens gemerkt dat de premie voor je autoverzekering verandert als je in een andere wijk gaat wonen? Verzekeraars berekenen dit met een algoritme, wat kan leiden tot indirecte discriminatie. Dit project onderzoekt hoe zulke digitale differentiatie (DD) zowel eerlijk als rendabel kan.
Doel
Dit project ontwerpt een methode om digitale differentiatie te verantwoorden vanuit zowel eerlijkheid als rendement. Voor onze praktijkpartners is het een uitdaging op deze vraag een antwoord te vinden doordat het een integratie vraagt van wetgeving, ethiek en techniek in huidige werkprocessen. Tevens, gebruiken we deze methode om zulke behoeftes scherp te krijgen vanuit verzekeraars en softwaremakers.
Doorwerking
- Een lijst van strategieën en functionaliteiten uit de literatuur voor het balanceren van eerlijkheid en rendement bij DD;
- Een koppeling van deze functionaliteiten en strategieën aan menselijke waarde zoals eerlijkheid en rendement
- Een prioritering en samensmelting van deze zogenaamde user stories die de behoefte van de praktijk scherp weergeeft
- Een artefact (bijvoorbeeld een dashboard) die (een deel van) deze user stories kan vervullen; bruikbaar voor de prakijk.
Looptijd
01 oktober 2024 - 01 oktober 2025
Aanpak
Dit project gebruikt een design science aanpak: we ontwerpen een methode voor DD en gebruiken deze methode om de behoeftes scherp te krijgen. Dit doen we door middel van interviews, een literatuurstudie, ontwerp en vier co-design workshops waar de praktijkpartners de methode evalueren en hun behoeftes aangeven.
Extra informatie
Een eerste voorstel voor een stappenplan om na te denken over wanneer differentiatie ook discriminatie is.
Betrokken HU-onderzoekers
Cofinanciering
Het project is gefinancierd door SIA, in het kader van de KIEM-regeling.
Samenwerkingspartners
Aanvullende documenten
Dit artikel verscheen origineel in het vaktijdschrift AG Connect als Mercuur, R., en Aldewereld, H. 2024. “Wat is er mis met discriminatie?” AG Connect, editie 2.
