Fin-X | Hogeschool Utrecht

Uitlegbaarheid van de uitkomsten en werking van artificiële intelligentie (AI) toepassingen is een belangrijke voorwaarde om vertrouwen van consumenten en maatschappij in AI-toepassingen te borgen, zeker in de financiële sector. In dit project ontwikkelen we hulpmiddelen om uitkomsten van complexe AI-toepassingen om te zetten naar een begrijpelijke uitleg voor medewerkers zoals klantacceptanten en schadebehandelaren. Dat is van belang omdat deze medewerkers met de klant communiceren en in staat moeten zijn om die een uitleg te geven bijvoorbeeld als de schadeclaim van een klant wordt afgewezen, omdat die door een AI-toepassing als frauduleus is bestempeld.

Het project heeft tot doel een concrete bijdrage te leveren aan de implementatie van effectieve en mensgerichte AI-toepassingen door hulpmiddelen te ontwikkelen die interne gebruikers van die AI-toepassingen meer en beter inzicht geven in de werking en uitkomsten ervan.

Handreikingen (in de vorm van tools en instrumenten) die richting geven en ondersteunen bij het genereren, communiceren en evalueren van uitleg. De primaire doelgroep van de handreikingen zijn ontwerpers en ontwikkelaars van AI- en XAI-toepassingen.

31 januari 2023 - 31 maart 2025

Het project volgt een design science aanpak waarbij op basis van behoeften uit de praktijk en al beschikbare kennis artefacten worden ontwikkeld. De artefacten in dit project zijn de handreikingen die bij resultaten zijn beschreven.

Stefan Leijnen
- Lector
- Lectoraat: Artificial Intelligence
Koen van Turnhout
- Lector
- Lectoraat: Human Experience & Media Design
Danielle Sent
- Onderzoeker
- Lectoraat: Artificial Intelligence
Jenia Kim
- Onderzoeker
- Lectoraat: Artificial Intelligence
Henry Maathuis
- Onderzoeker
- Lectoraat: Artificial Intelligence
Sieuwert van Otterloo
- Onderzoeker
- Lectoraat: Artificial Intelligence

Alle onderzoekers

Hogeschool van Amsterdam, Floryn, FRISS, De Volksbank, EMS, Sygno, MavenBlue, Mogelijk, Deeploy, Datacation, BBO, Amsterdam Data Collective, BG.legal, De Nederlandsche Bank, Jheronimus Academy of Data Science, Verbond van Verzekeraars, Holland FinTech, ROM Utrecht, Vereniging Financieel Adviseurs, Human & Tech Institute

FIN-X is een project dat subsidie ontvangt van het Nationaal Regieorgaan Praktijkgericht Onderzoek SIA in het kader van de RAAK-mkb regeling september 2022 met als dossiernummer RAAK.MKB17.003