Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
EINDHOVEN (ANP) - Een man in Eindhoven is in de nacht van vrijdag op zaterdag zwaargewond geraakt bij een steekincident. Dat meldt de politie op X. Er zijn twee verdachten aangehouden.
6 minuten geleden
DE BILT (ANP) - In de noordelijke helft van het land kan het verkeer in de nacht van vrijdag op zaterdag plaatselijk last hebben van dichte mist, aldus het KNMI. In de loop van de nacht neemt de kans hierop vanuit het zuiden af.
3 uur geleden
DEN HAAG (ANP) - Het kabinet heeft 5,7 miljoen euro betaald voor de kunstroof in het Drents Museum van begin vorig jaar. Toen werd onder meer een gouden helm uit Roemenië gestolen. Dat meldt demissionair minister Gouke Moes (Onderwijs, Cultuur en Wetenschap, BBB) in een brief aan de Tweede Kamer.
10 uur geleden
DEN HAAG (ANP) - Nederland is niet genegen de toetredingseisen voor Oekraïne tot de EU te versoepelen, zei demissionair minister David van Weel (Buitenlandse Zaken, VVD) vrijdag. Het plan waaraan de Europese Commissie zou werken om Oekraïne een lichte variant van het EU-lidmaatschap toe te kennen zodat Oekraïne snel kan toetreden, is hem niet bekend, zei Van Weel na afloop van de ministerraad. De huidige toetredingscriteria zijn voor Nederland heilig.
14 uur geleden
ROTTERDAM (ANP) - Het Openbaar Ministerie heeft vrijdag veertien jaar cel en tbs met dwangverpleging geëist tegen de 46-jarige Mels van B. uit Barendrecht voor het jarenlang ernstig seksueel misbruiken van jonge meisjes.
14 uur geleden
UTRECHT (ANP) - Tientallen getroffen bewoners van Utrecht zijn na de grote explosie in het centrum naar het gemeentelijk informatiepunt gekomen in het stadhuis. Ze werden daar toegesproken door burgemeester Dijksma, die hen een hart onder de riem stak.
15 uur geleden
UTRECHT (ANP) - De gemeente Utrecht heeft regelingen met hotels in de stad getroffen om bewoners die nog niet naar huis kunnen na de explosie van donderdag "zo lang als nodig" op te vangen. Dat zegt de Utrechtse burgemeester Sharon Dijksma.
15 uur geleden