Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Na een oproep eerder deze week heeft "een recordaantal" mensen zich aangemeld als burgerhulpverlener, meldt de Hartstichting. Burgerhulpverleners zijn mensen met een reanimatiecertificaat die na een oproep in een landelijk netwerk direct naar een slachtoffer kunnen voor de eerste hulp.
20 minuten geleden
LEEUWARDEN (ANP) - Een van de verdachten in de Friese soevereinenzaak is op vrije voeten. De 39-jarige Harm S. mag de inhoudelijke behandeling van de strafzaak onder voorwaarden in vrijheid afwachten.
28 minuten geleden
DEN HAAG (ANP) - Nederland en België doen onderzoek naar een treinverbinding tussen Eindhoven en Brussel. Het kan gaan om nieuw spoor, maar ook om een nieuwe treindienst over bestaand spoor.
2 uur geleden
DEN HAAG (ANP) - Gratis rechtshulp via het Juridisch Loket (JL) voor mensen met een laag inkomen levert de samenleving per geïnvesteerde euro 3 tot 5 euro aan maatschappelijke baten op. Dat blijkt uit een analyse van SEO Economisch Onderzoek in opdracht van het JL die donderdag is gepubliceerd.
4 uur geleden
DE BILT (ANP) - Wegens mogelijke gladheid door sneeuwval is ook voor de provincies Flevoland en Noord-Holland code geel afgegeven door het KNMI. De sneeuwbuien trekken van het zuiden van het land richting het noorden. Code geel was al gegeven voor Utrecht, Gelderland, Limburg, Noord-Brabant en Zuid-Holland en geldt vanaf de nacht tot het begin van de donderdagmiddag.
12 uur geleden
DEN HAAG (ANP) - Aankomend premier Rob Jetten (D66) vindt het "spijtig" dat Nathalie van Berkel, tot maandag beoogd staatssecretaris Financiën, zich heeft teruggetrokken. Van Berkel vermeldde studies op haar cv die ze niet had gedaan of niet had afgemaakt. Toen bleek dat zij daarover gelogen had, trok zij zich eerst terug als beoogd staatssecretaris en een dag later als Kamerlid.
16 uur geleden
DEN HAAG (ANP) - De Autoriteit Persoonsgegevens (AP) wil weten waarom de Technische Universiteit Delft de namen van klimaatactivisten heeft doorgegeven aan de politie. De privacytoezichthouder heeft de universiteit en de politie om uitleg gevraagd. Dat bevestigt de waakhond na een bericht van het Hoger Onderwijs Persbureau.
16 uur geleden