Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Onlinesupermarkt en bezorgdienst Picnic waarschuwt klanten de premium runderbavette van leverancier 't Slagershuys niet te eten. Het product kan de schadelijke STEC bacterie, een soort E. coli, bevatten.
12 uur geleden
HILVERSUM (ANP) - Dat Astrid Holleeder de laatste maanden niet te zien was in RTL Tonight, dat haar als vaste duider had aangetrokken, had te maken met haar veiligheid. Dat vertelt zij in RTL Boulevard.
12 uur geleden
DEN HAAG (ANP) - Nederlandse moslims beginnen aan de ramadan. De eerste dag van de vastenmaand, die elk jaar op een ander moment begint, werd dinsdag vastgesteld in Saudi-Arabië. Dit startpunt wordt door veel Nederlandse moslims gevolgd. Zij beginnen woensdag. Voor onder anderen Turks-Nederlandse moslims stond het begin van de ramadan al eerder vast aan de hand van berekeningen: hun vastentijd begint donderdag.
14 uur geleden
DEN HAAG (ANP) - Het Openbaar Ministerie heeft dinsdag veertien jaar cel geëist tegen de 71-jarige Ruben B. voor betrokkenheid bij de moord op garagehouder Louis 'Loek' van Dam in 1992 in Den Haag. De 64-jarige Van Dam werd op 27 januari van dat jaar in zijn garage in de Kritzingerstraat van achteren doodgeschoten met zes kogels, twee in zijn achterhoofd en vier in zijn rug. "Loek van Dam is geëxecuteerd zonder de moordenaar in zijn ogen te kunnen kijken", zei de officier van justitie.
18 uur geleden
ROTTERDAM (ANP) - Een werknemer van de Dienst Justitiële Inrichtingen (DJI) heeft recht op een maandelijkse toelage voor gevaarlijke werkomstandigheden. Tijdens zijn werk draagt de man regelmatig een mitrailleur en een zwaar vest. De kantonrechter is het met hem eens dat daar een financiële vergoeding bij hoort.
19 uur geleden
AMSTERDAM (ANP) - De politie heeft maandagavond een 78-jarige man aangehouden na een dreigende situatie bij een woning in de Transvaalstraat in Amsterdam-Oost. De man stak daarbij met een mes in de richting van agenten en gooide vanuit zijn bovenwoning goederen naar hen. De betrokken agenten hebben aangifte gedaan, meldt de politie dinsdag.
20 uur geleden
ROTTERDAM (ANP) - Het Openbaar Ministerie in Rotterdam gaat in hoger beroep in de zaken tegen twee verdachten die een zware paal op een supportersbegeleider van Feyenoord gooiden. Dat gebeurde na afloop van de wedstrijd tegen Fenerbahçe in augustus.
20 uur geleden