Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ALMERE (ANP) - Het programma Even tot Hier heeft 3.182.651 euro opgehaald voor ambulances en medische hulpgoederen voor Oekraïne. Dat werd zaterdag bekendgemaakt in de seizoensafsluiter van het BNNVARA-programma.
4 uur geleden
MOERGESTEL (ANP) - In een woning aan de Janus Rooijakkersstraat in Moergestel (Noord-Brabant) zijn zaterdagavond twee zwaargewonde kinderen aangetroffen. De vader van de kinderen is volgens de politie de man die eerder op de avond vermoedelijk als spookrijder betrokken was bij een ongeluk op de A58. Bij dat ongeluk raakten vier mensen gewond, onder wie de spookrijder.
4 uur geleden
DE BILT (ANP) - Het KNMI waarschuwt met code geel voor dichte mist in Zuid-Holland en Utrecht. Voor de provincies Overijssel, Gelderland, Noord-Brabant en Limburg had het weerinstituut eerder op de avond om dezelfde reden al code geel afgegeven.
5 uur geleden
DEN HAAG (ANP) - De vrijlating van 123 politieke gevangenen in Belarus is volgens demissionair minister David van Weel (Buitenlandse Zaken, VVD) "goed nieuws", maar hij wijst er ook op dat nog veel tegenstanders van president Aleksandr Loekasjenko vastzitten.
6 uur geleden
DE BILT (ANP) - In het zuidoosten kan het zaterdagavond en in de nacht naar zondag plaatselijk erg mistig zijn. Het KNMI heeft voor de provincies Overijssel, Gelderland, Noord-Brabant en Limburg code geel afgegeven in verband met de dichte mist. Volgens het weerinstituut kan het verkeer daar last van hebben. Op sommige plekken is het zicht minder dan 200 meter.
8 uur geleden
AMSTERDAM (ANP) - Het Concertgebouw in Amsterdam is zaterdag aan het einde van de middag tijdelijk ontruimd. Volgens een woordvoerster van de veiligheidsregio hadden bezoekers last van een "onprettige, stinkende lucht".
8 uur geleden
DORST (ANP) - Bij een aanhouding in het Brabantse Dorst heeft de politie een waarschuwingsschot gelost. De politie kreeg in de nacht van vrijdag op zaterdag meerdere meldingen van een man die een vrouw mishandelde in een woning voor arbeidsmigranten aan de Rijksweg. Twee getuigen zouden hebben gezien dat de man een vuurwapen had.
12 uur geleden