Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMERSFOORT (ANP) - De NS start een tijdelijke proef met het verstrekken van gratis treinpassen aan mensen met een laag inkomen in de gemeente Amersfoort. De spoorwegdienst stelt dat mensen beter kunnen meedoen in de samenleving als ze gebruik kunnen maken van de trein. "Reizen is vrijheid."
15 minuten geleden
DEN BOSCH (ANP) - Bij het pand dat bedoeld is voor alleenstaande minderjarige asielzoekers aan de Beverspijken in Den Bosch is een vernieling aangericht met een explosief. De politie spreekt op X alleen van een explosie in de straat, maar het Brabants Dagblad en Omroep Brabant schrijven dat het om het gebouw gaat waar de asielopvang gepland was.
1 uur geleden
MAASTRICHT (ANP) - Studenten en medewerkers van de Universiteit Maastricht kunnen ook maandag nog geen gebruik maken van de onderwijssoftware Canvas. Dat levert hinder op voor het geven van onderwijs, maar de colleges gaan wel gewoon door, laat de universiteit weten.
2 uur geleden
DEN HAAG (ANP) - De uitbreiding van windenergie op land in Nederland is op een historisch laag niveau. Dat meldt de Rijksdienst voor Ondernemend Nederland (RVO) maandag. Voor dit jaar wordt een daling van het totale opwekvermogen verwacht.
2 uur geleden
EINDHOVEN (ANP) - Het vliegtuig met opvarenden van het Nederlandse cruiseschip Hondius is zondag rond 20.30 uur geland op het vliegveld van Eindhoven. Dat ziet een ANP-verslaggever. Het toestel vertrok rond 16.50 uur vanaf Tenerife, waar de passagiers eerder op de dag van het schip waren gehaald.
7 uur geleden
TENERIFE (ANP) - Meer dan negentig van de bijna 150 opvarenden van het door het hantavirus getroffen cruiseschip Hondius zullen tegen het einde van zondag zijn geëvacueerd vanaf de Canarische Eilanden. Dat meldt de Spaanse staatssecretaris van Volksgezondheid, Javier Padilla, in een op sociale media gedeelde video.
7 uur geleden
PARIJS (ANP) - Een van de Fransen die aan boord was van het Nederlandse cruiseschip Hondius vertoont symptomen van het hantavirus. Dat schrijft de Franse premier Sébastien Lecornu op X. Alle vijf de Fransen die zijn gerepatrieerd vanaf Tenerife zijn in "strikte isolatie geplaatst tot nader order".
9 uur geleden