Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Het aantal minderjarige drugsuithalers is de afgelopen jaren sterk gestegen. Waar in 2020 nog 1 procent van de aangehouden uithalers minderjarig was, lag dat aandeel vorig jaar op ruim 22 procent. Dat meldt het CBS op basis van onderzoek van de Zeehavenpolitie.
3 uur geleden
ROTTERDAM (ANP) - De hoofdrijbaan van de A16 bij Rotterdam is ook in noordelijke richting weer open voor verkeer. Eerder in de nacht vonden op dat deel van de weg nog herstelwerkzaamheden plaats, nadat donderdagmiddag een vrachtwagen vlam had gevat.
4 uur geleden
ROTTERDAM (ANP) - De huurprijzen op de vrije markt zijn in de eerste drie maanden van dit jaar harder gestegen dan de prijzen voor koopwoningen. Dat stellen woningplatforms Huurwoningen.nl en Pararius na een analyse.
4 uur geleden
DEN HAAG (ANP) - De politie heeft een man aangehouden op verdenking van meerdere brandstichtingen in Den Haag. De branden werden allemaal gesticht in hetzelfde gebied in het zuidwesten van de stad.
14 uur geleden
DEN HAAG (ANP) - Het systeem dat het Nederlandse spoor beveiligt, is sneller aan vervanging toe dan gedacht. Delen van het systeem zijn tussen 2035 en 2040 aan vervanging toe, schrijft staatssecretaris Annet Bertram (Infrastructuur, CDA) aan de Tweede Kamer. De haast om over te stappen op het nieuwe Europese spoorbeveiligingssysteem ERTMS is daarmee gegroeid.
15 uur geleden
HAARLEM (ANP) - Het Openbaar Ministerie wil dat een inmiddels 18-jarige man uit Heemskerk zeker zes maanden de cel in gaat voor poging tot doodslag in vereniging en openlijke geweldpleging in Beverwijk. Die misdrijven zou hij hebben gepleegd in september met jongeren uit Beverwijk, rond een langer lopend conflict met jongeren uit Haarlem. Volgens het OM heeft hij bekend betrokken te zijn.
16 uur geleden
AMSTERDAM (ANP) - Mediabedrijf Talpa moet Yvonne Coldeweijer blijven doorbetalen in het conflict over de beëindiging van een overeenkomst voor een televisieprogramma dat uiteindelijk niet doorging. Dat heeft de voorzieningenrechter in Amsterdam bepaald.
16 uur geleden