Bij AI heeft het recht een sturende rol
Juni is de maand van AI in het onderwijs. In deze maand belichten we AI vanuit diverse perspectieven, met vandaag in de hoofdrol: het recht.
Gaat AI ook het vakgebied van recht veranderen? “Dat is al volop gaande”, zegt Tina van der Linden lachend, docent digitalisering & recht aan Hogeschool Utrecht. “En omdat dit ons recht betreft – een groot goed om te koesteren – moeten wij extra scherp zijn op de rechtvaardige toepassing van AI.” Dat is nog niet eenvoudig, want AI is een nieuw en vrij lastig te doorgronden instrument. In dit artikel deelt ze enkele inzichten.
“Veel organisaties en overheden zetten AI bijvoorbeeld in om risico’s op te sporen en te beheersen,” legt Tina uit. “Denk aan DUO die speurt naar potentiële fraude bij de studiebeurs voor uitwonende studenten. Of aan Toeslagen die met AI risicoprofielen opstelt bij de kinderopvangtoeslag.” Met die voorbeelden weet je meteen: dat verliep niet vlekkeloos. “En dat is precies interessant. Want de mensen die vinden dat hen onrecht is aangedaan, wenden zich tot juristen. Aan hen de taak de situatie uit te pluizen en om eventuele misstanden aan het licht te brengen.”
Toegepaste statistiek
Hoe je beoordeelt of AI wel of niet rechtvaardig is ingezet? “Dan moet je de werking van AI begrijpen, een uitgelezen taak voor het onderwijs als je het mij vraagt. De term ‘intelligentie’ is hier wellicht misleidend, want in de basis is AI niks anders dan toegepaste statistiek. Mensen hebben er data ingestopt en mensen hebben er opdrachten aan gegeven. Als jurist moet je dat dus nagaan.” Dat is makkelijk gezegd, maar het wordt al snel complex, bekent ook Tina. “Aan de ene kant omdat je niet goed kunt nagaan welke data het AI-instrument precies heeft gebruikt, waar die data vandaan komen en hoe betrouwbaar die zijn. Maar er is nog een andere complicerend perspectief.”
Ongewenste effecten
“Een interessant fenomeen in dit opzicht is het effect van self-fulfilling prophecies,” vervolgt Tina. Ze illustreert dat met een voorbeeld: “Neem een AI-tool die criminaliteit opspoort. Die zoekt naar verbanden en is getraind op een grote hoeveelheid data. Komt er misschien veel criminaliteit voor in een bepaalde wijk, dan zou dat een zoekcriterium kunnen zijn. Hoe logisch dat ook klinkt: dat is waar het misgaat. Want het instrument gaat in die wijk dan meer zoeken dan erbuiten, en dus ook meer criminaliteit vinden dan erbuiten.”
Is dat dan kwalijk, er wordt toch daadwerkelijk criminaliteit blootgelegd? “Het is niet erg dat er criminaliteit aan het licht komt, maar het gebeurt op een zeer onrechtvaardige manier. Bepaalde groepen mensen liggen veel meer onder een vergrootglas dan andere. Dat is zeer onwenselijk, in feite is dat discriminatie. Want wijk of postcodegebied kunnen gezien worden als een proxy, een afgeleid kenmerk voor etnische afkomst.”
Rol voor het onderwijs
Tina voegt daaraan toe dat het zelfs voor mensen die zich bewust zijn van deze valkuil, zeer complex is om proxies te formuleren die rechtvaardig zijn. “Het voelt tegennatuurlijk net zo hard te speuren in wijken waar weinig criminaliteit voorkomt dan in wijken waar het veel voorkomt. Maar in het fundament van ons recht is iedereen gelijk, mensen horen beoordeeld te worden op hun gedrag en dus niet op de plek waar ze wonen, hun afkomst of wie hun ouders zijn. Dat hoort al in je opdracht te staan.” Dus moeten we leren van de hiervoor genoemde misstanden. En we moeten de werking van AI beter begrijpen. Precies daar is een rol weggelegd voor het onderwijs.
Potentie van AI voor het vakgebied
Is Tina dan geen fan van AI? “Juist wel, AI heeft juristen veel te bieden! Vooral bij repetitief en tijdrovend werk, zoals het afhandelen van e-mail, beoordelen van inkomende juridische stukken, bij bezwaarschriften of het opstellen van contracten. AI-tools kunnen deze scannen en pinpointen op welke elementen extra aandacht gewenst is. Dat levert veel tijdwinst op. Mijn advies: ga vooral uitproberen. Juist als juristen moeten wij goed begrijpen wat AI kan en hoe het werkt.”
