Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - De Vrije Universiteit Amsterdam heeft alle systemen die in verbinding staan met onderwijssoftware Canvas losgekoppeld. Dat liet de onderwijsinstelling weten nadat hackersgroep ShinyHunters donderdagavond de Canvas-sites van meerdere Nederlandse universiteiten had weten over te nemen.
19 minuten geleden
UITHOORN (ANP) - De Noord-Hollandse gemeente Uithoorn plaatst cameratoezicht in een straat waar dit jaar een asielzoekerscentrum moet komen. De camera's zijn voor een periode van twee weken en zijn bedoeld "ter bescherming van de openbare orde en veiligheid aan de Wiegerbruinlaan", aldus de gemeente.
3 uur geleden
DEN HAAG (ANP) - Minister-president Rob Jetten noemt de aanval met een vuurwerkbom op het partijkantoor van zijn eigen partij D66 "een laffe daad van intimidatie".
5 uur geleden
DEN HAAG (ANP) - Minister Pieter Heerma (Binnenlandse Zaken) noemt de aanval met een vuurwerkbom donderdagavond op het partijkantoor van D66 een "laffe daad". Dat doet de CDA-bewindsman in een reactie op X. "Laat het duidelijk zijn: geweld hoort niet thuis in onze democratie."
5 uur geleden
DEN HAAG (ANP) - De politie heeft een persoon aangehouden voor de explosie die donderdagavond plaatsvond bij het partijkantoor van D66 in Den Haag. De explosie aan de Lange Houtstraat was even na 21.00 uur, meldt de politie. Niemand raakte gewond.
5 uur geleden
DEN HAAG (ANP) - Bij het partijkantoor van D66 in Den Haag is donderdagavond iets na 21.00 uur een explosie geweest, bevestigt de politie na berichtgeving door De Telegraaf. Het pand aan de Lange Houtstraat in de Haagse binnenstad is daardoor beschadigd. Niemand raakte gewond, zegt een politiewoordvoerder.
6 uur geleden
HILVERSUM (ANP) - Talpa maakt geen nieuwe afleveringen van Familie Gillis: Massa is Kassa "zolang er sprake is van hoger beroep of cassatie" in de zaken waarin Peter Gillis donderdag is veroordeeld. Dat laat een woordvoerder van het mediabedrijf desgevraagd weten aan het ANP.
8 uur geleden