Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEVENTER (ANP) - De gemeente Zwolle, de gemeente Deventer, de politie en voetbalclubs Go Ahead Eagles en PEC Zwolle zijn "zeer teleurgesteld" dat de wedstrijd tussen Go Ahead Eagles en PEC Zwolle zondagmiddag na een ontruimingsactie van de ME van start moest gaan zonder gevuld uitvak. Dat laten ze in een gezamenlijke verklaring weten.
2 uur geleden
EINDHOVEN (ANP) - De gemeente Eindhoven feliciteert PSV met de landstitel en kondigt aan dat de huldiging dinsdag plaatsvindt op het Stadhuisplein.
2 uur geleden
ROTTERDAM (ANP) - De douane heeft zaterdag ruim 1400 kilo cocaïne gevonden in de haven van Rotterdam. De drugs waren verspreid over drie containers, waarbij "afwijkingen" werden gezien, meldt het Openbaar Ministerie.
3 uur geleden
NIJKERK (ANP) - De politie neemt een video over de explosie bij het Israëlcentrum in Nijkerk mee in het onderzoek. Dat zegt een woordvoerster van de politie. Die video is door de pro-Iraanse groep Harakat Ashab al-Yamin al-Islamiya (HAYI) online gezet. Vrijdagavond ontplofte er een voorwerp bij het hek van het gebouw waar de stichting Christenen voor Israël is gehuisvest. De schade bleef beperkt en er raakte niemand gewond.
5 uur geleden
NIJKERK (ANP) - De pro-Iraanse groep Harakat Ashab al-Yamin al-Islamiya (HAYI) heeft een video online gezet over de explosie in Nijkerk. Dat meldt de SITE Intelligence Group, een Amerikaanse groep die wereldwijd extremistische groeperingen monitort. Onduidelijk is of de beweging de ontploffing daarmee opeist.
15 uur geleden
NIJKERK (ANP) - Burgemeester Tinet de Jonge-Ruitenbeek van Nijkerk noemt de explosie bij het Israëlcentrum onacceptabel. Ze is zaterdag bij het centrum geweest om met de medewerkers te praten. "Ik ben onder de indruk van hun veerkracht."
1 dag geleden
NIJKERK (ANP) - De politie is een uitgebreid onderzoek begonnen naar de explosie vrijdagavond laat bij het Israëlcentrum in Nijkerk (Gelderland). Er is sporenonderzoek gedaan en zaterdag volgt een buurtonderzoek. Volgens de politie is gebleken dat een in het zwart geklede persoon het explosief bij het pand heeft geplaatst.
1 dag geleden