Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
HILVERSUM (ANP) - De uitvaart van de zaterdag overleden Sonja Barend vindt in besloten kring plaats. Dat meldt omroep BNNVARA aan het ANP. De plaats en datum van de uitvaart zijn niet bekend.
23 minuten geleden
ANTWERPEN (ANP) - In Zeeuwse natuurgebieden aan de grens met België dreigt een milieuramp te ontstaan. Medewerkers van beheerder Het Zeeuwse Landschap hebben op diverse plekken olie aangetroffen en ook enkele besmeurde vogels gezien, onder meer in het Verdronken Land van Saeftinghe. Dat is een moeilijk begaanbaar getijdengebied op de grens van Nederland en België waar dagelijks water in en uit stroomt. Eind vorige week lekte in de Antwerpse haven zware stookolie in het water bij het tanken van een schip.
1 uur geleden
HARDENBERG (ANP) - Het asielzoekerscentrum in Hardenberg is nog steeds in gebruik, ruim een maand nadat de Overijsselse gemeente had geëist dat de opvang zou sluiten. In het weekeinde is één bewoner overgebracht naar een andere plek. Daardoor zitten er maandag nog 280 mensen in het gebouw. Het totale bedrag aan dwangsommen is opgelopen tot boven de 1 miljoen euro.
1 uur geleden
WAGENINGEN (ANP) - Bij de landelijke kikkerdriltelling zijn dit jaar 616 waarnemingen doorgegeven aan kenniscentrum RAVON. De meeste kikkerdrilmeldingen kwamen uit de provincie Gelderland, meldt natuurwebsite Nature Today. Daarna volgen Zuid-Holland en Noord-Brabant.
2 uur geleden
AMSTERDAM (ANP) - Boekingssite Booking.com laat weten dat "onbevoegde derden" toegang hebben gekregen tot boekingsinformatie van klanten. Sommige klanten van Booking.com ontvingen zondag een mail over een mogelijk gegevenslek. Het bedrijf bevestigt zondagavond dat er dus gegevens zijn ingezien.
13 uur geleden
HILVERSUM (ANP) - BNNVARA komt zondag met twee extra uitzendingen ter ere van Sonja Barend, heeft de omroep laten weten. Eerder op de dag werd bekendgemaakt dat de televisiepersoonlijkheid op 86-jarige leeftijd is overleden.
15 uur geleden
HILVERSUM (ANP) - Sonja Barend heeft "ontzettend veel" betekend voor het televisie-interview, zegt Nieuwsuur-presentator Marielle Tweebeeke naar aanleiding van het overlijden van de talkshowpresentatrice. Zondag werd bekend dat Barend zaterdag op 86-jarige leeftijd is overleden.
15 uur geleden