Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - De twee pathologen in de zaak tegen IJmuidenaar Sander K. (37), verdacht van het verkrachten en doden van de Oekraïense Arina Sasina (34), staan lijnrecht tegenover elkaar bij het beantwoorden van de vraag waardoor de vrouw is overleden. Dat bleek maandag bij de behandeling van de zaak in hoger beroep bij het gerechtshof in Amsterdam.
2 uur geleden
DEN HAAG (ANP) - Ruim 25.000 mensen wachten al langer dan 15 maanden op een beslissing over hun asielaanvraag. Begin vorig jaar waren dat ruim 10.000 mensen minder. Dat blijkt uit cijfers van de Immigratie- en Naturalisatiedienst (IND). Het behandelen van zaken kost meer tijd dan de IND had verwacht.
2 uur geleden
KATWIJK (ANP) - De bekendmaking van het stoppen van de musical Soldaat van Oranje heeft maandagmiddag tot een stormloop op de website geleid. Een woordvoerder van de productie heeft een bericht daarover van het AD bevestigd.
4 uur geleden
AMSTERDAM (ANP) - Paradiso moet een "ingrijpende" renovatie ondergaan, heeft het poppodium bekendgemaakt. Onder meer geluidsoverlast, ruimtegebrek en de verslechterde constructie maken de verbouwing noodzakelijk. Het gaat om de renovatie van het huidige gebouw en een nieuwbouwproject op het perceel naast de concertzaal.
4 uur geleden
ZWOLLE (ANP) - De rechtbank in Zwolle heeft de oudste zoon van Ridouan Taghi, Faissal, maandag veroordeeld tot zes jaar cel. De 25-jarige T. werd vervolgd voor deelname aan een criminele organisatie die zich bezighield met internationale drugshandel, witwassen en het voorbereiden van de gewelddadige uitbraak van zijn vader Ridouan Taghi uit de Extra Beveiligde Inrichting in Vught (EBI). Het vonnis volgt op procesafspraken die T. maakte met het Openbaar Ministerie.
5 uur geleden
DEN HAAG (ANP) - Gevangenen en tbs'ers konden vanuit hun cel het internet op met speciale laptops die ze van justitie hadden gekregen, terwijl dat niet de bedoeling was. De toegang tot internet bleek niet goed te zijn afgesloten, meldt demissionair staatssecretaris Arno Rutte (Justitie en Veiligheid).
6 uur geleden
KATWIJK (ANP) - De musical Soldaat van Oranje wordt op 12 juli voor de laatste keer gespeeld. Dat heeft de producent maandag bekendgemaakt. De voorstelling over de oorlogsjaren van Erik Hazelhoff Roelfzema speelt vanaf oktober 2010 en is daarmee de langstlopende musical in de Nederlandse geschiedenis.
6 uur geleden