Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
HURGHADA (ANP) - Een Nederlandse toerist is in de nacht van dinsdag op woensdag om het leven gekomen na een vechtpartij in een café in de Egyptische havenstad Hurghada, aan de Rode Zee. Dat melden lokale media, waaronder de nieuwssite Cairo24.
3 minuten geleden
ARNHEM (ANP) - Dolle Mina's voeren zondag, op de kortste dag van het jaar, in diverse steden actie voor veiligere straten. Het gaat om meer dan vijftien locaties door het hele land, waarbij de actievoerders tunnels aankleden met vloerkleden, planten, banken, muziek en verlichting.
37 minuten geleden
DEN HAAG (ANP) - Elektrische auto's leveren weliswaar aanzienlijke voordelen op voor klimaat en luchtkwaliteit, maar zorgen tegelijkertijd voor een toename van het autogebruik. Dat constateren het Centraal Planbureau (CPB) en het Planbureau voor de Leefomgeving (PBL) na nieuw onderzoek. Volgens de belangrijke adviseurs van het kabinet neemt vooral in het weekend en bij stedelingen het aantal gereden kilometers flink toe.
40 minuten geleden
AMSTERDAM (ANP) - In Amsterdam blijft er ruimte voor feesten tijdens Koningsdag in de binnenstad, maar een en ander moet "beter beheersbaar worden". Over een nieuwe aanpak schrijft burgemeester Femke Halsema dinsdag in een brief aan de gemeenteraad. Volgens haar is Koningsdag in het centrum van Amsterdam nu uitgegroeid tot een "moeilijk beheersbaar openluchtfestival" waarvan "de risico's te groot" zijn.
4 uur geleden
TERNEUZEN (ANP) - Oud-minister Franc Weerwind (D66) wordt tijdelijk burgemeester van Terneuzen. Hij is op het stadhuis in Terneuzen benoemd door commissaris van de Koning Hugo de Jonge. Weerwind volgt Erik van Merrienboer (PvdA) op. Die maakte eind november zijn aftreden bekend, omdat de wethouders op advies van de gemeenteraad geen vergunning willen verstrekken voor de komst van een asielzoekerscentrum.
6 uur geleden
MAASTRICHT (ANP) - De provincie Limburg legt Arriva een boete van ruim 760.000 euro op, omdat bussen en treinen van de vervoerder in 2023 te vaak uitvielen of te laat kwamen. Dat was in strijd met de afspraken die de provincie met Arriva maakte over het regionale vervoer in de provincie.
6 uur geleden
AMSTERDAM (ANP) - Ook de strafzaak tegen Raily B., verdacht van het leiden van een groep die een moordaanslag zou hebben voorbereid op Peter R. de Vries, heeft last van de problemen die advocaten hebben met de nieuwe toezichtsregels in de Extra Beveiligde Inrichting (EBI) in Vught. De zaak loopt daardoor mogelijk vertraging op.
7 uur geleden