Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
NIJMEGEN (ANP) - Op de laatste dag van de Nijmeegse Vierdaagse zijn 42.777 deelnemers gefinisht, zo laat de organisatie weten. Allen krijgen zij het felbegeerde Vierdaagsekruisje. Op de laatste wandeldag van het evenement vielen 411 wandelaars uit.
5 uur geleden
DEN HAAG (ANP) - De rechtbanken werken aan meerdere alternatieven om strafzaken zoveel mogelijk door te laten gaan, terwijl het Openbaar Ministerie is afgesloten van het internet. Dit meldt de Raad voor de rechtspraak.
7 uur geleden
DEN HAAG (ANP) - Het Openbaar Ministerie weet niet hoelang medewerkers nog van internet verstoken blijven. Het onderzoek naar de mogelijke kwetsbaarheid in de systemen duurt voort.
7 uur geleden
NIJMEGEN (ANP) - Burgemeester Hubert Bruls kijkt tevreden terug op de Nijmeegse Vierdaagse. Ondanks enkele "akkefietjes" tijdens de Vierdaagsefeesten is het wandelevenement vooralsnog zonder noemenswaardige incidenten verlopen, zegt hij. "Als je alles overziet, met de vele duizenden mensen, is het voortreffelijk gegaan."
8 uur geleden
DEN HAAG (ANP) - Meerdere gemeenten en ziekenhuizen die gebruikmaken van diensten van Citrix zeggen dat ze die vorige maand al hebben gerepareerd, nadat een gat in de beveiliging was ontdekt. Daarom hoeven ze de systemen nu niet los te koppelen, zoals het Openbaar Ministerie wel heeft gedaan.
10 uur geleden
EINDHOVEN (ANP) - Meerdere mensen hebben zich gemeld nadat er donderdag geblurde foto's van zes verdachten die worden gezocht voor de rellen rond het kampioensfeest van PSV naar buiten waren gebracht. Dat meldt de politie vrijdag. Een politiewoordvoerder kan niet direct zeggen om hoeveel personen het precies gaat.
10 uur geleden
DEN HAAG (ANP) - Reizen naar Venezuela wordt afgeraden. Het reisadvies van het ministerie van Buitenlandse Zaken staat vanaf deze vrijdag voor het hele land op rood. Sinds de presidentsverkiezingen van juli 2024 is het onrustig in het land.
10 uur geleden