Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ARNHEM (ANP) - De inzet van de buitenlandse brandweerdiensten is niet meer nodig bij het bestrijden van de natuurbranden. Dat laten minister David van Weel van Justitie en Veiligheid en voorzitter Hein van der Loo van het Interregionaal Beleidsteam (IRBT) weten.
2 uur geleden
BUDEL (ANP) - De brandweer gaat bij het bestrijden van de natuurbrand bij Weert en Budel over op een andere tactiek. Er worden daar nu voor het eerst twee zogenoemde handcrews ingezet, meldt de brandweer. Dat zijn specialistische brandweerteams die met handgereedschap de brand tegengaan op plekken waar blusvoertuigen niet kunnen komen.
3 uur geleden
OIRSCHOT (ANP) - In de buurt van Oirschot is zaterdagmiddag opnieuw vuur waargenomen in een natuurgebied waar eerder ook al brand heeft gewoed. Dat meldt de veiligheidsregio van Zuidoost-Brabant.
5 uur geleden
DEN HAAG/ATHENE (ANP) - De Nederlandse ambassade in Griekenland heeft consulaire bijstand verleend aan drie Nederlandse deelnemers aan de Global Sumud Flotilla, de burgervloot met hulpgoederen voor Gaza. Dat laat het ministerie van Buitenlandse Zaken weten.
6 uur geleden
AMSTERDAM (ANP) - De voormalige televisiepresentator en politicus Carlo Strijk is op 59-jarige leeftijd overleden. Dat laat Niels Jens Uitvaartzorg weten aan het ANP namens de familie. Strijk overleed afgelopen week in zijn slaap.
8 uur geleden
'T HARDE (ANP) - De brandweer heeft het sein brand meester gegeven voor de grote natuurbrand in 't Harde. Dat meldt de Veiligheidsregio Noord- en Oost-Gelderland.
11 uur geleden
HOUTEN (ANP) - Het warme en droge weer van de afgelopen dagen maakt in het weekend plaats voor fris en regenachtig lenteweer. Op zowel dodenherdenking als Bevrijdingsdag is het fris, met op maandag temperaturen tussen de 14 tot 16 graden. Op Bevrijdingsdag wordt het niet warmer dan 12 tot 16 graden.
12 uur geleden