Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
EINDHOVEN (ANP) - Het terughalen van zes passagiers van de m/v Hondius naar Australië na aankomst in Eindhoven dinsdagochtend vroeg is "moeilijk, gezien de afstand tussen Nederland en Australië", zegt de Australische minister van Volksgezondheid Mark Butler. In een interview met het Australische ABC News zei Butler dat het zestal "maximaal 48 uur in Nederland mag zijn".
41 minuten geleden
DEN HAAG (ANP) - Het Amerikaanse bedrijf achter onderwijsplatform Canvas heeft een akkoord gesloten met de hackers die de software vorige week wisten binnen te dringen. Dat houdt in dat de gestolen data aan het bedrijf Instructure is teruggegeven en alle data die de hackers wisten te ontfutselen door hen vernietigd is. Het bedrijf meldt niet of en zo ja hoeveel losgeld met het akkoord gemoeid was.
2 uur geleden
EINDHOVEN (ANP) - Twee vliegtuigen met opvarenden van het Nederlandse cruiseschip Hondius zijn rond 00.30 uur in de nacht van maandag op dinsdag geland op het vliegveld van Eindhoven. Dat ziet een ANP-verslaggever. De vliegtuigen waren rond 20.45 uur Nederlandse tijd vertrokken vanaf Tenerife.
4 uur geleden
AMSTERDAM (ANP) - Bert Natter heeft de Libris Literatuur Prijs gewonnen met het boek Aan het einde van de oorlog. Dat maakte de jury van de prestigieuze prijs maandagavond bekend in de uitzending van Nieuwsuur.
7 uur geleden
AMSTERDAM (ANP) - Mensen met een kaartje voor het afgelaste festival Music On kunnen hun geld terugkrijgen of hun ticket inzetten om de eerstvolgende editie bij te wonen. Dat meldt organisator Loveland maandagavond. "Op dit moment zijn wij hard bezig met het opzetten van een systeem om de afhandeling omtrent tickets zo soepel en zorgvuldig mogelijk te laten verlopen."
7 uur geleden
ROTTERDAM (ANP) - De rederij achter cruiseschip m/v Hondius, OceanWide Expeditions, meldt dat het schip zondag in Rotterdam moet aankomen. Het schip vertrok maandagavond rond 19.00 uur lokale tijd vanuit Tenerife en doet er volgens de planning zes dagen over om de eindbestemming te bereiken.
7 uur geleden
AMSTERDAM (ANP) - Op Schiphol heeft een vliegtuig rond 20.50 uur een noodlanding gemaakt vanwege een medisch noodgeval aan boord. Dat meldt een woordvoerder van de luchthaven. Het toestel van Ryanair steeg op in Warschau, Polen en had in het Engelse Leeds moeten landen.
8 uur geleden