Fin-X: Naar een betekenisvolle uitleg van AI-toepassingen

Het project heeft tot doel een concrete bijdrage te leveren aan de implementatie van effectieve en mensgerichte AI-toepassingen door hulpmiddelen te ontwikkelen die interne gebruikers van die AI-toepassingen meer en beter inzicht geven in de werking en uitkomsten ervan.

Handreiking user interface design van uitlegbare AI: download het paper hier. 

Nieuwe AI-systemen moeten gebruikers goede uitleg geven over hoe het systeem tot uitkomst komt. Uitlegbaarheid van AI is namelijk een harde eis vanuit zowel de AVG als de AI Act. Voor ontwerpers en ontwikkelaars is dit een uitdaging: het is niet altijd voor de hand liggend hoe uitleg moet worden toegevoegd in een systeem. Dit whitepaper biedt daarom praktische voorbeelden en tips hoe men kan zorgen voor goede uitzetbaarheid. Allereerst worden de eisen aan uitleg uitgelegd en vervolgens worden vier manieren uitgelegd om uitleg te presenteren. Voor elke manier worden voorbeeld-ontwerpen getoond en tips gegeven hoe de uitlegmethode goed toe te passen is. 

Het paper is ontwikkeld in het FIN-X project, dat gericht was op systemen in de financiële sector. In het whitepaper wordt daarom een voorbeeld gebruikt van fraude-detectie op verzekeringen en ook het beoordelen van leningaanvragen. De ontwerpen en tips kunnen echter ook gebruikt worden voor hele andere systemen.

31 januari 2023 - 31 maart 2025

Het project volgt een design science aanpak waarbij op basis van behoeften uit de praktijk en al beschikbare kennis artefacten worden ontwikkeld. De artefacten in dit project zijn de handreikingen die bij resultaten zijn beschreven.

FIN-X is een project dat subsidie ontvangt van het Nationaal Regieorgaan Praktijkgericht Onderzoek SIA in het kader van de RAAK-mkb regeling september 2022 met als dossiernummer RAAK.MKB17.003