Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - In een reeks rouwadvertenties in Trouw wordt dinsdag stilgestaan bij het overlijden van de oprichter en directeur van de klimaatorganisatie Urgenda, Marjan Minnesma, die vrijdag op 59-jarige leeftijd overleed. "Jij was onze onverschrokken voorvrouw, onze drijvende kracht, ons kompas", schrijft Urgenda onder meer in een rouwadvertentie.
25 minuten geleden
ZUTPHEN (ANP) - In Zutphen woedt een grote brand aan de Marsweg, meldt de Veiligheidsregio Noord- en Oost-Gelderland. Een loods van 40 bij 10 meter staat volledig in brand. De brandweer blust van buitenaf, gezien de omvang van de brand.
2 uur geleden
KOOG AAN DE ZAAN (ANP) - Tussen Koog aan de Zaan en Zaandam is maandagavond laat een natuurbrand uitgebroken. De brand woedt aan het Westerwindpad. Het getroffen gebied is ongeveer 20 bij 40 meter. Het gaat om oud gras dat in brand staat, meldt de Veiligheidsregio Zaanstreek-Waterland.
2 uur geleden
TER APEL (ANP) - Maandagavond worden zo'n 140 mensen van Ter Apel naar de nachtopvang in congrescentrum Hanze Plaza in Groningen gebracht. Omdat de opvang bij het aanmeldcentrum in Ter Apel vol is, brengen asielzoekers sinds vorige week de nacht door in tijdelijke locaties. Dit om te voorkomen dat zij buiten moeten slapen. In de nacht van zondag op maandag ging het om 126 mensen.
4 uur geleden
TEL AVIV (ANP/RTR/AFP) - De Israëlische premier Benjamin Netanyahu heeft het leger het bevel gegeven om de aanvallen op Libanon op te voeren. De premier zegt in oorlog te zijn met Hezbollah. Hij wil de aan Iran gelieerde terreurgroep met de aanvallen "vernietigen", zegt hij in een videobericht op Telegram.
7 uur geleden
ROTTERDAM (ANP) - De ruim tweehonderd teams die meededen aan het loop- en fietsevenement Roparun zijn gefinisht op de Coolsingel in Rotterdam. Het laatste team kwam rond 19.00 uur onder luid applaus binnen, aldus de organisatie. Het evenement met zo'n 5000 deelnemers ging zaterdag van start. Een deel vertrok uit de Franse plaats Castres, een andere groep begon in Enschede.
7 uur geleden
TILBURG (ANP) - Tussen Den Bosch en Tilburg rijden maandag tot naar verwachting 18.30 uur geen treinen. Dat komt door een aanrijding, aldus NS. Een woordvoerder zei iets na 16.00 uur dat de Nederlandse Spoorwegen bezig zijn met het regelen van vervangend busvervoer. "Wanneer dat rond is, kunnen reizigers dat zien in de reisplanner."
11 uur geleden