Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De akoestische gitaar van George Kooymans is voor 28.000 euro geveild. Dat heeft Stichting ALS Nederland zondagavond bekendgemaakt. De totale opbrengst van de onlineveiling bedraagt ruim 57.000 euro. Het bedrag wordt gedoneerd aan onderzoek naar de dodelijke zenuw- en spierziekte ALS, waaraan de zanger en gitarist van Golden Earring vorig jaar is overleden.
44 minuten geleden
VLAGTWEDDE (ANP) - Bij een pluimveebedrijf in het Groningse Vlagtwedde, gemeente Westerwolde, is vogelgriep vastgesteld. De ongeveer 35.000 leghennen op de locatie worden gedood, laat het ministerie van Landbouw, Visserij, Voedselzekerheid en Natuur (LVVN) weten.
6 uur geleden
BREDA (ANP) - Een 38-jarige man heeft zaterdagavond voor flink wat overlast gezorgd in het centrum van Breda. De man vernielde prullenbakken, trok borden omver en betastte verschillende vrouwen. Hij is aangehouden en zit nog vast. Tijdens zijn aanhouding plaste de man in de politiebus en beet hij een politiebeambte in de hand.
9 uur geleden
UTRECHT (ANP) - Mensen moeten tot maandagochtend rekening houden met gladheid wanneer ze de weg opgaan en hun rijstijl daarop aanpassen. Volgens Rijkswaterstaat kan het op veel plaatsen glad worden. Strooiwagens staan klaar om te strooien, voegt de organisatie toe.
9 uur geleden
SINT JOOST (ANP) - Een politieauto heeft zaterdagnacht een aanrijding gehad met een ander voertuig bij het Limburgse dorp Sint Joost. Volgens de politie is de bestuurder van de aangereden auto met de ambulance naar een ziekenhuis gebracht.
10 uur geleden
MILAAN (ANP) - Koning Willem-Alexander en koningin Máxima hebben shorttracker Jens van 't Wout gefeliciteerd met zijn tweede gouden medaille tijdens de Olympische Winterspelen. Het koningspaar spreekt in een bericht op sociale media van "een razend spannende finale".
12 uur geleden
WASSENAAR (ANP) - Meer dan de helft van de Nederlanders steunt delen van de rechtse MAGA-ideologie van de Amerikaanse president Donald Trump. Dat blijkt uit een onderzoek van instituut Clingendael. 54 procent van de ondervraagden gelooft dat de 'westerse beschaving', waarbij de definitie daarvan aan henzelf is gelaten, bedreigd wordt. Een grote groep staat kritisch tegenover migratie en progressieve ideeën.
14 uur geleden