Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DE BILT (ANP) - Voor het oosten van het land is code oranje afgegeven vanwege zware onweersbuien die plaatselijk kunnen voorkomen. Het KNMI meldt dat er bij de buien kans is op grote hagelstenen, zware windstoten en veel regen in korte tijd.
39 minuten geleden
ROTTERDAM (ANP) - Een groep van zes mensen heeft vernielingen aangericht bij de Mevlana Moskee in Rotterdam-West. Dat gebeurde op het moment dat er in het gebouw mensen aanwezig waren, meldt de politie.
1 uur geleden
DEN HAAG (ANP) - De parlementaire enquête over corona gaat volgende week verder met openbare verhoren van toenmalig Tweede Kamervoorzitter Khadija Arib, Jaap van Dissel en Pieter-Jaap Aalbersberg. De week staat in het teken van het begin van de pandemie.
1 uur geleden
DE BILT (ANP) - In heel Nederland geldt vrijdagmiddag en -avond code geel vanwege de kans op zware onweersbuien. In de loop van de avond trekken de zwaarste buien volgens het KNMI naar Duitsland weg.
2 uur geleden
ZANDVOORT (ANP) - In het stationsgebied, de middenboulevard en het bijbehorende strand in Zandvoort geldt tot en met zondag 31 mei een noodverordening. Dat laat de gemeente op haar website weten.
2 uur geleden
DEN HAAG (ANP) - Ook premier Rob Jetten schrok van de bedragen die sommige ministeries betaalden voor het inhuren van privéjets, die bewindslieden nodig hadden voor werkreizen. Volgens RTL besteedde de Rijksoverheid de afgelopen vijf jaar bijna 2 miljoen euro aan privévluchten. Vooral het ministerie van Defensie trok hier vaak geld voor uit.
4 uur geleden
DEN HAAG (ANP) - Het plan van de Israëlische premier Benjamin Netanyahu om een groter deel van de Gazastrook te bezetten is "uitermate zorgelijk", zegt minister Tom Berendsen (Buitenlandse Zaken, CDA). Het past volgens hem niet binnen de afspraken die zijn gemaakt over het staakt-het-vuren.
4 uur geleden