Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De inzet van het luchtverdedigings- en commandofregat de Zr.Ms. Evertsen in het Middellandse Zeegebied wordt niet nogmaals verlengd, schrijven ministers Dilan Yeşilgöz (Defensie) en Tom Berendsen (Buitenlandse Zaken) in een brief aan de Tweede Kamer. Het schip hielp daar een Frans vliegdekschip bij het beveiligen van de oostelijke Middellandse Zee, na Iraanse drone-aanvallen op Cyprus.
3 uur geleden
KOOTWIJK (ANP) - Op meerdere plekken zijn vrijdagmiddag natuurbranden uitgebroken. Zo woedden er onder meer bij de Gelderse plaatsen Kootwijk en Harderwijk twee bosbranden.
5 uur geleden
WEERT (ANP) - De natuurbrand tussen Weert en Budel laait hier en daar weer op. Volgens een woordvoerder van de veiligheidsregio komt dat door de wind en omdat de temperatuur stijgt. De vlammen bevinden zich binnen het gebied waar eerder brand was. "We bewaken de randen en verwachten niet dat het vuur zich uitbreidt", zegt hij.
7 uur geleden
'T HARDE (ANP) - De brand op het militaire oefenterrein bij 't Harde in Gelderland heeft vrijdagmiddag nog meerdere vuurhaarden, zegt de veiligheidsregio. "Door de inzet van de helikopters kunnen we hopelijk sneller afronden. De situatie duurt al een paar dagen en vergt veel van de brandweerlieden."
8 uur geleden
NAALDWIJK (ANP) - Duizenden mensen hebben vrijdag aan het begin van de middag in Naaldwijk met een luid applaus een laatste eer bewezen aan sociale-mediapersoonlijkheid Jade Kops. Buiten het WestlandTheater De Naald, waar het besloten afscheid plaatsvond, vormden belangstellenden uit heel Nederland een erehaag.
8 uur geleden
'T HARDE (ANP) - De brandweer wil de natuurbrand bij 't Harde zo snel mogelijk blussen, zegt burgemeester van Elburg Harm-Jan van Schaik. Voor het blussen zullen vrijdag ook weer twee Chinook-helikopters worden ingezet, met het doel het bluswerk te versnellen.
9 uur geleden
'T HARDE (ANP) - Defensie zet twee Chinook-transporthelikopters in bij de bestrijding van de natuurbrand op het defensieterrein bij 't Harde in Gelderland. Dat meldt het Defensie Helikopter Commando (DHC) op X.
11 uur geleden