Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De kersttoespraak van koning Willem-Alexander telt dit jaar 757 woorden, dat is 11 woorden meer dan vorig jaar. De lengte van de kersttoespraak van de koning daalde de afgelopen jaren.
2 uur geleden
DEN HAAG (ANP) - Koning Willem-Alexander zou het mooi vinden als "iedere generatie als eerste doel zou hebben om de wereld in een iets betere toestand over te dragen aan de generatie erna". Dat is niet eenvoudig, zei de koning donderdag in zijn jaarlijkse kersttoespraak.
2 uur geleden
ZAANDAM (ANP) - In een woning aan de Westzijde in Zaandam heeft een zeer grote brand gewoed. Het ging om een kraakpand, aldus een woordvoerder van de veiligheidsregio. Rond 12.15 uur meldde de brandweer dat de brand uit is.
4 uur geleden
AMSTERDAM (ANP) - In Artis is op kerstavond een olifantje geboren. Het kalf, een bul, stond al binnen enkele minuten op vier poten en dronk al snel bij moeder. In de Amsterdamse dierentuin leven nu vijf Aziatische olifanten: matriarch van de kudde Thong Thai en haar vier nakomelingen.
4 uur geleden
WAGENINGEN (ANP) - De hazelaars staan dit jaar eerder in bloei dan ooit. Dat kan leiden tot hooikoortsklachten, meldt Nature Today. "Niet eerder stonden hazelaars zo vroeg zo uitgebreid te bloeien als dit jaar. En niet eerder telde het LUMC zoveel hazelaarpollen in december als dit jaar."
4 uur geleden
MAASDIJK (ANP) - Een automobilist is om het leven gekomen door een ongeval in Maasdijk, waarbij zijn auto in brand vloog. Het ongeluk gebeurde rond 4.30 uur op de Coldenhovelaan in de Zuid-Hollandse plaats, meldt de politie op X.
5 uur geleden
DEN HAAG (ANP) - In meerdere plaatsen in het land kunnen mensen de schaatsen onderbinden. Zo hebben in De Lier (Zuid-Holland) en in Zeist (Utrecht) de vorst en het werk van vrijwilligers ervoor gezorgd dat schaatsers vanaf 8.30 uur over de baan kunnen rijden.
6 uur geleden