Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
GRANADILLA DE ABONA (ANP) - Het Nederlandse cruiseschip de m/v Hondius is aangekomen bij de haven van Granadilla de Abona op het Spaanse eiland Tenerife.
19 minuten geleden
GRANADILLA DE ABONA (ANP) - Het Nederlandse cruiseschip m/v Hondius komt zondag om 05.30 uur lokale tijd aan bij Tenerife (06.30 uur Nederlandse tijd). Het gaat voor anker in de buurt van Granadilla de Abona, aan de zuidkant van het eiland. Vanaf ongeveer 08.00 uur lokale tijd (09.00 uur in Nederland) kunnen de eerste mensen naar de wal worden gebracht. Daarna gaan ze meteen door naar het vliegveld, heeft de rederij Oceanwide Expeditions zaterdagavond laten weten.
8 uur geleden
TER APEL (ANP) - Bij demonstraties rondom het azc in Ter Apel heeft de politie zaterdag vijf mensen aangehouden. Eerder waren er drie aanhoudingen, daar zijn er nu twee aan toegevoegd.
11 uur geleden
TER APEL (ANP) - Bij demonstraties rondom het azc in Ter Apel heeft de politie zaterdag vijf mensen aangehouden. Eerder waren er drie aanhoudingen, daar zijn er nu twee aan toegevoegd.
12 uur geleden
DEN HAAG (ANP) - Circa 29 opvarenden van het cruiseschip m/v Hondius vliegen zondag van Tenerife naar Eindhoven. Dat meldt het ministerie van Buitenlandse Zaken. Onder hen zijn zowel Nederlanders als mensen uit andere landen.
12 uur geleden
AMSTERDAM (ANP) - Het housefestival Music On in Amsterdam gaat dit weekeinde definitief niet door. De gemeente heeft zaterdag op het laatste moment de vergunning voor het feest ingetrokken. De organisator spande een kort geding aan om het besluit terug te laten draaien, maar de rechter heeft dat afgewezen. De reden daarvoor is nog niet bekend.
14 uur geleden
TER APEL (ANP) - Bij demonstraties rondom het azc in Ter Apel heeft de politie zaterdag drie mensen aangehouden. Twee personen voor belediging en één voor het zich niet kunnen legitimeren. De demonstraties verliepen verder zonder grote incidenten. Even na 15.00 uur verlieten de laatste actievoerders het terrein voor het azc. Zij zijn vervolgens buiten het dorp in bussen gestapt.
14 uur geleden