Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ZEEWOLDE (ANP) - De brandweer heeft in Zeewolde in Flevoland een persoon uit een brandende woning gered. Dat gebeurde in de nacht van vrijdag op zaterdag aan het Fluitekruid.
1 uur geleden
AMSTERDAM (ANP) - De pro-Koerdische demonstratie voor vrede in de Syrische regio Rojava in Amsterdam is onder veel politiebegeleiding aangekomen op de Dam. De demonstratie begon met tientallen mensen die kaarsen ontstaken voor het Centraal Station. Inmiddels is de groep gegroeid tot honderden betogers en zijn er tientallen politiebusjes en ME'ers aanwezig op de Dam. Dat meldt een verslaggever van het ANP.
9 uur geleden
AMSTERDAM (ANP) - Zo'n vijftig tot honderd betogers zijn vrijdag rond 18.00 uur voor Amsterdam Centraal samengekomen. Ze roepen op tot vrede voor Rojava, een noordelijke provincie van Syrië waar veel Koerden wonen, aldus een verslaggever van het ANP.
10 uur geleden
AMSTERDAM (ANP) - Voedselwaakhond Foodwatch zegt juridische stappen te nemen tegen Nestlé rondom mogelijk besmette babyvoeding. Foodwatch vindt dat het voedingsconcern verwijtbaar heeft gehandeld en eist dat alle informatie openbaar wordt gemaakt. Franse autoriteiten hebben een onderzoek ingesteld naar de dood van twee baby's, die babyvoeding van het voedingsconcern hadden gedronken.
11 uur geleden
AMSTERDAM (ANP) - In het gebied rond Amsterdam Centraal en de Dam is sinds vrijdagmiddag 16.00 uur een veiligheidsrisicogebied van kracht.
12 uur geleden
DEN HAAG (ANP) - Het gerechtshof in Den Haag trekt volgende week twee dagen uit voor de behandeling van het hoger beroep in de strafzaak tegen Tweede Kamerlid Gideon van Meijeren van Forum voor Democratie. Het hof kondigt aan dat belangstellenden de zittingen woensdag en donderdag kunnen volgen via een livestream.
13 uur geleden
DEN HAAG (ANP) - De bezoekersaantallen van het Nationaal Archief in Den Haag zijn vorig jaar flink gestegen ten opzichte van de jaren ervoor. Volgens de organisatie komt dat "door alle aandacht" voor het oorlogsarchief, ofwel het Centraal Archief Bijzondere Rechtspleging (CABR). Daarin staan dossiers van zo'n 425.000 mensen die na de oorlog zijn onderzocht wegens mogelijke collaboratie met de nazi's.
13 uur geleden