Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Een meerderheid van de Tweede Kamer steunt een voorstel van VVD, BBB en JA21 om het 'boerkaverbod' uit te breiden. Het demissionaire kabinet had de motie ontraden. Sinds 2019 is er een verbod op gezichtsbedekkende kleding - in de volksmond het boerkaverbod - in het onderwijs, openbaar vervoer, ziekenhuizen en overheidsgebouwen.
32 minuten geleden
HILVERSUM (ANP) - De EO komt met een nieuwe talkshow om "het Joodse geluid een herkenbaar podium te geven bij de publieke omroep". De Joodse Wereld gaat op zondag 21 september van start en is wekelijks te zien bij de omroep.
2 uur geleden
UTRECHT (ANP) - ProRail evacueert ongeveer vierhonderd reizigers uit een gestrande trein op de hogesnelheidslijn (HSL) tussen Rotterdam en Breda, meldt de NS. Wegens een brandmelding in de locomotief strandde de trein rond 18.20 uur op dit traject.
3 uur geleden
HILVERSUM (ANP) - Het NPO Radio 1-programma Spraakmakers laat luisteraars niet meer stemmen op stellingen waar in de uitzending over wordt gepraat. Dat heeft presentatrice Roos Abelman donderdag in het programma gezegd. De redactie is hiermee gestopt omdat de uitslag van deze stemming niet representatief was, maar wel soms in het publieke debat werd genoemd.
4 uur geleden
UTRECHT (ANP) - Een instelling voor jongeren in Alphen aan den Rijn zorgt niet goed genoeg voor de kinderen. De Inspectie Gezondheidszorg en Jeugd (IGJ) eist daarom dat iHUB binnen drie maanden orde op zaken stelt. Een van de groepen binnen de locatie mag voorlopig geen nieuwe jongeren aannemen.
5 uur geleden
HILVERSUM (ANP) - De NPO wil stoppen met BVN, de publieke tv-zender voor Nederlanders in het buitenland. Dat heeft de NPO donderdag bekendgemaakt. Ook wil de NPO stoppen met NPO Campus Radio, de proeftuin voor nieuwe radiotalenten, en NPO Soul & Jazz. Ook NPO 2 Extra moet stoppen, als het aan de NPO ligt.
5 uur geleden
AMSTERDAM (ANP) - De eerste openbare zitting tegen de verdachte van de dood van de 17-jarige Lisa is op 25 november, meldt de rechtbank Amsterdam. De jonge vrouw werd in de nacht van 19 op 20 augustus omgebracht in Duivendrecht. Zij was op de fiets onderweg van Amsterdam naar huis in Abcoude.
7 uur geleden