Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
TER APEL (ANP) - De asielzoekers die donderdagnacht niet terechtkunnen in het opvangcentrum in het Groningse Ter Apel, worden overgebracht naar het nabijgelegen Gieten. Dat meldt een woordvoerder van het Rode Kruis.
1 uur geleden
UTRECHT (ANP) - Het Domplein in Utrecht is donderdagavond rond 18.30 uur gevuld met honderden mensen die een demonstratie voor solidariteit bijwonen. Dat ziet een ANP-verslaggever. De sfeer is gemoedelijk. De demonstratie is een initiatief van De Straat Op, een samenwerkingsverband van verschillende organisaties zoals DeGoedeZaak, Extinction Rebellion (XR) en de Dolle Mina's.
3 uur geleden
DEN HAAG (ANP) - Geen van de personen die zich nog op het Nederlandse cruiseschip Hondius bevonden toen het aanmeerde in Rotterdam is besmet met het hantavirus. Ook vertonen zij geen klachten, meldt minister Sophie Hermans (Volksgezondheid, Welzijn en Sport) donderdag in een brief aan de Kamer.
4 uur geleden
DEN HAAG (ANP) - Het aantal gevangeniscellen dat nodig is, blijft de komende jaren stijgen, schrijft het Wetenschappelijk Onderzoek- en Datacentrum (WODC) in een prognose. Bijna alle cellen in Nederland zijn al bezet. Er is alleen geen tekort door noodmaatregelen.
4 uur geleden
UTRECHT (ANP) - Vier jonge mannen uit Utrecht moeten op 14 en 15 september voor de rechter verschijnen voor het verspreiden van een zogeheten 'bangalijst'. Daarop stonden namen, persoonlijke gegevens en foto's van vrouwelijke studenten, met daarbij seksuele, grove en beledigende opmerkingen. De lijst ging in maart 2024 rond op internet en in groepsapps, aldus het OM.
6 uur geleden
DEN HAAG (ANP) - De parlementaire enquêtecommissie corona heeft "een strijd moeten leveren" om documenten los te krijgen over de besluitvorming tijdens de coronapandemie. Dat heeft commissievoorzitter Daan de Kort (VVD) gezegd tijdens een persconferentie. De enquêtecommissie begint volgende week met haar openbare verhoren.
7 uur geleden
AMSTERDAM (ANP) - De gemeente Amsterdam vangt 230 extra vluchtelingen op wegens het tekort aan opvangplekken bij het aanmeldcentrum in Ter Apel. De 230 vluchtelingen worden opgenomen in bestaande opvanglocaties in de stad voor de duur van zes maanden, meldt de gemeente donderdag.
7 uur geleden