Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
UTRECHT (ANP) - NS heeft een week nodig om het achterstallige onderhoud dat vorige week ontstond aan de treinen in te halen. Dit is de rest van deze week voelbaar op sommige trajecten, waar met minder materieel wordt gereden.
21 minuten geleden
ROTTERDAM (ANP) - Een 40-jarige man uit Herten (Limburg) wordt verdacht van onlinemisbruik van ruim 150 minderjarige meisjes, van wie veertig uit Nederland. De man stond dinsdag voor het eerst terecht op een openbare zitting. Volgens het Openbaar Ministerie benaderde hij zijn jonge slachtoffers via een deels zelf ontwikkeld computerspel.
30 minuten geleden
DEN HAAG (ANP) - Enkele tientallen mensen hebben rond het middaguur bij de Iraanse ambassade in Den Haag gedemonstreerd tegen het regime van dat land. De betogers toonden zich solidair met het Iraanse volk, zegt het Comité Iran Vrij, dat de demonstratie heeft georganiseerd.
1 uur geleden
LEEUWARDEN (ANP) - Ziekenhuis Isala in Zwolle moet een schadevergoeding betalen aan een vrouw die zwanger was geworden doordat de gynaecoloog zijn eigen sperma daarvoor had gebruikt, en niet dat van haar echtgenoot. Het ziekenhuis is aansprakelijk, heeft het gerechtshof in Leeuwarden dinsdag bepaald.
1 uur geleden
LEIDEN (ANP) - Treinstation Leiden Centraal en het omliggende stationsgebied worden grondig verbouwd. De stationstunnel moet verdubbelen in formaat, er komt een overdekt busstation en de gehele façade van het station verandert. Sporen en perrons worden niet aangepakt. Voor de verbouwing is 674 miljoen euro uitgetrokken; het project moet in 2040 klaar zijn. Dat melden ProRail, NS, de gemeente en de provincie Zuid-Holland.
3 uur geleden
BREDA (ANP) - Het treinverkeer van en naar Breda rijdt weer. Vanaf 11.45 uur is de normale dienstregeling weer opgestart, meldt een woordvoerder van de NS. "Wel zien we nog enkele opgeheven treinen, maar dat zijn sporadische gevallen. Reizigers kunnen weer van A naar B."
3 uur geleden
ROTTERDAM (ANP) - "Het was een obsessie. Het beheerste uw leven." Dat zei de voorzitter van de rechtbank in Rotterdam dinsdag tegen Mels van B. (46) uit Barendrecht, verdacht van ernstig seksueel misbruik van tientallen jonge meisjes. De verdachte beaamde de observatie van de rechter.
4 uur geleden