Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
VUGHT (ANP) - De PI Vught is van plan aangifte te doen, nadat vrijdag op een afdeling van het Penitentiair Psychiatrisch Centrum (PPC) drie medewerkers werden gegijzeld door een gedetineerde. Dit meldt de Dienst Justitiële Inrichtingen (DJI) zaterdag.
13 uur geleden
DEN HAAG (ANP) - Marco Borsato treedt het komende jaar niet op. Dat laat zijn management zaterdag weten aan het ANP, in reactie op de uitnodiging die André Rieu de zanger deed.
13 uur geleden
HILVERSUM (ANP) - Erik de Zwart onderzoekt de mogelijkheden voor een digitaal televisiekanaal over treinen. Dat laat hij zaterdag aan het ANP weten. De Zwart voert hierover op dit moment gesprekken met kabelaars als Ziggo en KPN. Volgens de mediaondernemer blijkt uit een representatief onderzoek dat hij heeft gedaan dat twee op de drie Nederlanders hier interesse voor zouden hebben.
15 uur geleden
DEN HAAG (ANP) - Demissionair minister Gouke Moes (OCW) heeft vrijdag telefonisch gesproken met cabaretier Niels van der Laan over de doodsbedreigingen aan zijn adres. Dat laat een woordvoerder van Van der Laan zaterdag aan het ANP weten. Het was een "privégesprek" waarover zij verder geen details deelt.
16 uur geleden
ERMELO (ANP) - Een tweede persoon is overleden na een eenzijdig verkeersongeval in het Gelderse Ermelo. Het gaat om een 26-jarige man uit de gemeente Nunspeet, meldt de politie. De slachtoffers reden rond 20.50 uur op vrijdagavond tegen een boom aan, waarna de auto in brand vloog.
17 uur geleden
DEN HAAG (ANP) - Dit jaar wordt naar verwachting het op een na zonnigste jaar sinds het begin van de metingen, denkt Weeronline. Het aantal zonuren staat nu op 2064 uur en als december zoals gebruikelijk verloopt, zal dat uitkomen op 2111 uur. Alleen in 2022 was het zonniger met 2233 uur.
17 uur geleden
DEN HAAG (ANP) - Tientallen bekende Nederlandse mannen, onder wie koning Willem-Alexander, zijn zich het afgelopen jaar bewuster geworden van het gevoel van onveiligheid dat veel vrouwen in Nederland ervaren. Het AD komt zaterdag met een publicatie waarin meer dan vijftig mannen zich uitspreken over de veiligheid van vrouwen.
17 uur geleden