Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ROTTERDAM (ANP) - Deelnemers van de jaarlijkse Roparun hebben vorige maand ruim 4,3 miljoen euro opgehaald voor goede doelen. Het geld gaat naar doelen die "het leven van mensen met kanker draaglijker maken". De organisatie van het sponsorevenement maakte de eindstand zaterdagavond bekend op een feest in stadion De Kuip in Rotterdam.
3 uur geleden
HAMBURG (ANP) - Enkele duizenden Nederlandse en Poolse supporters vieren zaterdag samen feest op de Reeperbahn, in de rosse buurt van Hamburg. Oranje speelt zondagmiddag de eerste wedstrijd van het EK in Duitsland tegen de Polen.
7 uur geleden
AMSTERDAM (ANP) - Reizigers tussen Amsterdam en Frankfurt reizen vanaf deze zaterdag met nieuwe ICE-treinen. De snelle treinen van Deutsche Bahn (DB) lijken aan de buitenkant sterk op hun voorganger: ze zijn wit met een rode streep en hebben een gestroomlijnde neus. Toch zijn ze volgens de NS, die de dienstregeling samen met DB onderhoudt, "sterk verbeterd", zowel in technisch opzicht als qua comfort.
10 uur geleden
DORDRECHT (ANP) - In Dordrecht hebben enkele honderden mensen meegedaan aan een protestmars tegen Chemours. Ze willen dat de chemische fabriek, gelegen langs de rivier de Beneden-Merwede, stopt met de uitstoot van PFAS. Ze liepen vanuit het Oranjepark in Dordrecht via de wijk De Staart naar de Baanhoekweg waar Chemours is gevestigd.
13 uur geleden
BAD BENTHEIM (ANP) - Rijkswaterstaat waarschuwt automobilisten die op weg zijn naar Duitsland voor extra drukte en vertraging door controles bij de grens. Vanwege het EK voetbal heeft Duitsland opnieuw grenscontroles ingesteld. Veel Nederlanders zijn zaterdag onderweg naar Hamburg, waar Oranje zondag de eerste wedstrijd van het toernooi speelt tegen Polen.
14 uur geleden
ATHENE (ANP) - De Nederlandse toerist die sinds zondag vermist was op het Griekse eiland Samos, is dood aangetroffen in een ravijn. Dat meldt de Griekse publieke omroep ERT. Het lichaam werd met een drone gelokaliseerd door medewerkers van de hulpdiensten van het eiland.
15 uur geleden
HAARLEM (ANP) - De rechtbank doet op 12 juli uitspraak in de zedenzaak tegen Ali B. De rechters willen de tijd nemen om te komen tot een vonnis, liet de voorzitter vrijdagavond aan het einde van een lange zittingsdag weten.
1 dag geleden