Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - De concerten van de Amerikaanse rapper Ye in GelreDome in Arnhem komende zaterdag en maandag mogen doorgaan. Dat is de uitkomst van een kort geding in de rechtbank in Amsterdam dat het Centraal Joods Overleg (CJO) had aangespannen. De voorzieningenrechter ziet op dit moment geen concrete aanwijzingen dat de komst van Ye, ook wel Kanye West, een gevaar is voor de openbare orde.
1 uur geleden
DEN HAAG (ANP) - Meer dan 56.000 vmbo-leerlingen moeten door een technische fout een dag langer wachten op de uitslag van het praktijkdeel van hun examen. Dat is "onwijs vervelend" voor de leerlingen en zorgt voor extra werk voor docenten, zegt bestuurder Kim van Strien van de Algemene Onderwijsbond (AOb).
4 uur geleden
AMSTERDAM (ANP) - Rapper Ye, ook bekend als Kanye West, is voor de behandeling van het kort geding over zijn mogelijke inreisverbod al naar Nederland gekomen. Dat bevestigt Anis Boumanjal, de advocaat van de organisator van zijn aankomende concerten in Arnhem. Het kort geding wordt woensdagmiddag behandeld in de rechtbank van Amsterdam.
5 uur geleden
DEN HAAG (ANP) - Oud-Kamervoorzitter Khadija Arib vreest dat de parlementaire enquête corona, waarin zij als getuige is opgeroepen, te veel draait om vooruitkijken en lessen leren voor de toekomst. "Prima, maar ik mis de nadruk op waarheidsvinding, op verantwoording afleggen", zei zij aan het einde van haar openbare verhoor.
6 uur geleden
UTRECHT (ANP) - Volgens het College voor de Rechten van de Mens heeft omroepvereniging Ongehoord Nederland (ON!) zich schuldig gemaakt aan discriminatie. Dat oordeelde het onafhankelijke mensenrechteninstituut woensdag naar aanleiding van een vacaturetekst die de omroep in 2024 plaatste.
6 uur geleden
DEN HAAG (ANP) - Ondanks de aanvallen van de Verenigde Staten en Israël zit het Iraanse regime nog "stevig" in het zadel. Dat zei minister Tom Berendsen (Buitenlandse Zaken, CDA) woensdag in een Kamerdebat over de situatie in Iran. Er is verder "geen enkele aanwijzing" dat het bewind een gematigdere koers gaat varen.
6 uur geleden
DEN HAAG (ANP) - Minister Tom Berendsen (Buitenlandse Zaken, CDA) hoopt dat een deel van het ambassadepersoneel "binnenkort" terug kan gaan naar de Iraanse hoofdstad Teheran. De Nederlandse ambassademedewerkers werden begin maart tijdelijk verplaatst naar de Azerbeidzjaanse hoofdstad Bakoe.
7 uur geleden