Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De snelle opmars van kunstmatige intelligentie (AI) zal in Nederland bijdragen aan een langdurige ontslaggolf. Daarvoor waarschuwt Ingrid Thijssen in een interview met De Telegraaf bij haar afscheid als voorzitter van werkgeversorganisatie VNO-NCW. Volgens haar gaat AI op grote schaal banen veranderen en doen verdwijnen, terwijl Nederland daar nog onvoldoende op is voorbereid.
3 uur geleden
TER APEL (ANP) - In het aanmeldcentrum voor asielzoekers in Ter Apel is donderdag een baby van nog geen jaar oud overleden. Dat bevestigt het OM naar aanleiding van berichtgeving door Dagblad van het Noorden. Volgens een woordvoerder van het OM gaat het om een "noodlottig ongeval" en vindt er geen strafrechtelijk onderzoek plaats.
10 uur geleden
LELYSTAD (ANP) - De politie heeft vrijdagavond een eind gemaakt aan de bezetting van het hoofdgebouw van Lelystad Airport. Ongeveer twintig activisten van Greenpeace begonnen de actie donderdagochtend om 7.00 uur en verbleven sindsdien in het gebouw.
11 uur geleden
HILVERSUM (ANP) - Arie Kievit heeft dit jaar de Zilveren Camera gewonnen. De fotograaf kreeg de belangrijke prijs voor fotojournalistiek in Nederland voor zijn fotoserie van de rellen na een demonstratie voor strenger asielbeleid. Kievit ontving de prijs vrijdag in Hilversum uit handen van Tweede Kamervoorzitter Thom van Campen. Hij maakte de serie in opdracht van de Volkskrant.
14 uur geleden
RIDDERKERK (ANP) - De politie heeft donderdag een man aangehouden in Ridderkerk die onbedoeld toegang had gekregen tot politiedocumenten. Hij werd opgeroepen deze documenten terug te geven, maar gaf daaraan geen gehoor. Daarop is hij aangehouden wegens computervredebreuk.
14 uur geleden
DEN BOSCH (ANP) - De uitspraak van de rechtbank in Den Bosch in de zaak rond het dodelijke ongeluk met de Stint is een "zeer terechte en heel zuivere", zei advocaat Geert-Jan Knoops vrijdag. De rechtbank sprak zijn cliënten, de twee Stintondernemers die door het Openbaar Ministerie strafrechtelijk aansprakelijk zijn gesteld voor het ongeval, vrij.
14 uur geleden
GRONINGEN (ANP) - Het Martini Ziekenhuis in Groningen heeft besloten ongeveer twintig operaties af te zeggen die vrijdag en komende maandag gepland waren. Als gevolg van ziekte door griep is er minder personeel beschikbaar in het ziekenhuis.
15 uur geleden