Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
HILVERSUM (ANP) - Alle problemen op het spoor door het winterweer zorgden ervoor dat de NS-app vorige week maandag 28 miljoen keer werd geraadpleegd. Nooit eerder waren er zoveel bezoekers in de app, wat voor technische problemen zorgde, zei NS-directeur Wouter Koolmees maandagavond aan tafel bij Pauw & De Wit. "De vorige piek was bij de stakingen vorige zomer, toen 12 miljoen reizigers de app raadpleegden", aldus Koolmees.
1 uur geleden
CASABLANCA (ANP) - Twee Nederlanders die in 2017 een vergismoord pleegden in Marrakech hebben opnieuw de doodstraf opgelegd gekregen. Daartoe besliste het Hof van Beroep in Casablanca, bevestigt advocaat Bob Kaarls van het duo na berichtgeving van De Telegraaf. Bij de vergismoord kwam de zoon van een rechter om het leven.
1 uur geleden
DE BILT (ANP) - In het noorden van het land kan het maandagavond en dinsdagochtend plaatselijk erg mistig zijn. Het KNMI heeft voor Friesland, de Waddeneilanden en het IJsselmeergebied code geel afgegeven. Volgens het weerinstituut kan het zicht lokaal afnemen tot minder dan 200 meter.
2 uur geleden
AMSTERDAM (ANP) - "De internationale rechtsorde staat onder druk en conflicten elders in de wereld hebben ook in Nederland grote impact." Dat zei koning Willem-Alexander maandag in zijn toespraak tijdens de nieuwjaarsontvangst voor Nederlandse genodigden in het Koninklijk Paleis Amsterdam.
5 uur geleden
ROTTERDAM (ANP) - De man die werd aangehouden nadat hij in zijn woning in Rotterdam-Zuid onderdak had geboden aan de vermiste Wendy (10) is maandag weer vrijgelaten. Dat meldt de politie. Het gaat om een 69-jarige man, die werd aangehouden op verdenking van het onttrekken aan het bevoegd gezag. Die verdenking blijft staan. Het is verboden onderdak te bieden aan een minderjarige zonder toestemming van de ouders.
6 uur geleden
UTRECHT (ANP) - Ruim 13.000 mensen vroegen vorige week geld terug bij de NS na vertragingen door wisselstoringen. Dat is drie tot vier keer zoveel als het normale aantal, meldt een woordvoerder. De meeste aanvragen werden gedaan op maandag, zo'n 8000.
8 uur geleden
HEEMSKERK (ANP) - De politie heeft afgelopen vrijdag de vermoedelijke opdrachtgever aangehouden van de explosies die in 2024 en 2025 plaatsvonden bij het Rode Kruis Ziekenhuis in Beverwijk. Het gaat om een 34-jarige man uit Heemskerk, meldt de politie maandag. Hij is inmiddels voorgeleid aan de rechter-commissaris, die heeft besloten dat de verdachte langer vast blijft zitten.
8 uur geleden