Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ARNHEM (ANP) - De uitspraken die rapper Ye in het verleden heeft gedaan, zijn op zich geen reden om een vergunning te weigeren, "hoe verwerpelijk ook". Dat zegt burgemeester Ahmed Marcouch van Arnhem dinsdag. Ye, ook bekend als Kanye West, treedt op 6 en 8 juni op in stadion GelreDome in de Gelderse hoofdstad.
2 uur geleden
RITTHEM (ANP) - De politie gaat ervan uit dat de piloot van het neergestorte sportvliegtuigje bij Middelburg het voertuig opzettelijk heeft laten neerstorten. Dat meldt een woordvoerder. De piloot is overleden.
3 uur geleden
EINDHOVEN (ANP) - De spelers en staf van PSV zijn iets na 18.00 uur verschenen op het bordes van het stadhuis in Eindhoven. Daar wordt de selectie, die voor de derde keer op rij landskampioen is, gehuldigd. Op het plein worden in de uitzinnige rood-witte menigte met fans veel rode fakkels afgestoken. Ook klinken er af en toe knallen, ondanks het vuurwerkverbod van de gemeente.
5 uur geleden
VREDEPEEL (ANP) - Nederland krijgt een extra Patriot-luchtverdedigingsbatterij. Kopers verdringen zich voor het schaarse Amerikaanse systeem en een bestelling duurt al gauw een jaar of acht, maar Nederland heeft voorrang gekregen.
7 uur geleden
ZUTPHEN (ANP) - De advocaat van een 21-jarige man uit Zelhem (Gelderland) die ervan wordt verdacht dat hij als stagiair tijdens zwemlessen veertien jonge kinderen heeft misbruikt, zegt dat er geen bewijs in het dossier zit voor seksueel "binnendringen". Dat bleek dinsdag tijdens een tweede inleidende zitting in de rechtbank in Zutphen. Justitie vervolgt de man in elf gevallen voor verkrachting.
7 uur geleden
DEN HAAG (ANP) - De tien telers die meedoen aan het wietexperiment en daarom hennep of hasj mogen produceren, gaan regelmatig de fout in. De Inspectie Justitie en Veiligheid heeft het afgelopen jaar 46 inspecties uitgevoerd bij deze wiettelers, stelde daarbij 42 overtredingen vast en legde 32 sancties op. In vier gevallen moesten telers een boete betalen.
8 uur geleden
DEN HAAG (ANP) - Het Openbaar Ministerie gaat in hoger beroep tegen de uitspraak in een zaak over de moord op een Haagse garagehouder in 1992. Verdachte Ruben B. (71) werd eind maart vrijgesproken. De rechtbank zag ondanks "sterke aanwijzingen" voor zijn betrokkenheid te weinig bewijs voor een veroordeling.
9 uur geleden