Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Na een haastige stemming in de Eerste Kamer zijn op de valreep "grote uitvoeringsproblemen" voorkomen die de Immigratie- en Naturalisatiedienst (IND) voorzag. De organisatie die asielaanvragen verwerkt, registreert daarvoor biometrische gegevens zoals vingerafdrukken.
33 minuten geleden
DEN HAAG (ANP) - Een 61-jarige man uit Hillegom is door de Haagse rechtbank veroordeeld tot het betalen van 302.000 euro aan de Nederlandse staat. Pieter K. heeft mensen opgelicht en het geld dat hij inzamelde aan privé-uitgaven besteed.
34 minuten geleden
DEN HAAG (ANP) - De Iraanse ambassadeur moest dinsdagmiddag naar het ministerie van Buitenlandse Zaken om zich te verantwoorden voor een Nederlandse diplomatieke zending die door Iran in beslag is genomen. Het is nog niet bekend of de zending inmiddels is vrijgegeven. Het ministerie spreekt van een "diplomatiek incident" en noemt het "onacceptabel".
2 uur geleden
DEN HAAG (ANP) - Het aantal nieuwe namen dat de komende gemeenteraadsverkiezingen op het stembiljet staat, is iets gedaald vergeleken met 2022. Dat blijkt uit een analyse van de definitieve kandidatenlijsten van de Kiesraad door het ANP. Van in totaal 61.549 mensen was 59,1 procent (36.357 kandidaten) vier jaar geleden niet verkiesbaar.
2 uur geleden
LONDEN (ANP) - Het boek De herinnerde soldaat van de Nederlandse schrijfster Anjet Daanje staat op de longlist van de International Booker Prize. Dat maakte de organisatie achter de prestigieuze prijs voor het beste naar het Engels vertaalde fictiewerk dinsdag bekend.
5 uur geleden
DEN HAAG (ANP) - De met kunstmatige intelligentie gemaakte stemhulp Keus is offline gehaald na kritiek. Dat is een goede zaak, reageert de Vereniging van Nederlandse Gemeenten (VNG). "Dit is een gevaarlijk experiment als het om verkiezingen gaat: je beïnvloedt de kiezers en het democratisch proces."
5 uur geleden
UTRECHT (ANP) - Door ongelukken met vuurwerk rond de jaarwisseling hebben dit jaar 215 mensen oogletsel opgelopen, het hoogste aantal in twaalf jaar. Het Nederlands Oogheelkundig Gezelschap (NOG) meldt dat op basis van alle registraties van behandelaars. De helft van alle gewonden was 17 jaar of jonger. Voor een op de drie slachtoffers is het letsel blijvend, laat de beroepsvereniging van oogartsen weten.
6 uur geleden