Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DUBAI (ANP) - Door de situatie in het Midden-Oosten vliegt KLM ook zondag niet van Dubai naar Nederland, laat de luchtvaartmaatschappij weten. De vlucht werd zaterdag al afgelast vanwege de aanvallen op Iran.
2 uur geleden
DEN HAAG (ANP) - Het ministerie van Buitenlandse Zaken heeft reisadviezen van nog vijf landen in de buurt van Iran aangescherpt. Het reisadvies voor heel Bahrein, Jordanië, Koeweit en Qatar is nu oranje, wat betekent dat wordt aanbevolen hier alleen naartoe te reizen als het noodzakelijk is.
3 uur geleden
HEERHUGOWAARD (ANP) - De gedetineerde die een gevangenisbewaarster zaterdagmiddag in de penitentiaire inrichting in Heerhugowaard stak, verwondde haar met een scherpe scherf van een bord in haar nek en gezicht. Daarna gijzelde hij haar. Nadat de verdachte onder controle was, is de vrouw naar het ziekenhuis gebracht.
4 uur geleden
HILVERSUM (ANP) - Ook zondag zendt de NOS extra journaals uit in verband met de ontwikkelingen in en rondom Iran. In de ochtend is ieder uur een kort NOS Journaal te zien van vijf minuten, laat de omroep weten.
5 uur geleden
HEERHUGOWAARD (ANP) - In de gevangenis in Heerhugowaard is zaterdagmiddag een steekincident en daarna een gijzeling door een gedetineerde geweest. Dat laat de politie weten. Het gevaar is inmiddels voorbij; de gedetineerde is onder controle, aldus de politie.
5 uur geleden
DEN HAAG (ANP) - Het ministerie van Buitenlandse Zaken heeft een negatief reisadvies gegeven voor Irak, Israël, Libanon en de Palestijnse gebieden. In die landen of gebieden geldt nu de kleurcode rood, omdat het er te gevaarlijk is. "Wat uw situatie ook is, reis er niet heen," aldus het ministerie.
5 uur geleden
DEN HAAG (ANP) - De demonstratie in Den Haag tegen het Iraanse regime is veranderd in een feest nadat er zaterdagmiddag steeds meer berichten kwamen dat ayatollah Ali Khamenei bij een van de aanvallen van Israël en de Verenigde Staten is gedood. Dat nieuws verspreidde zich snel op het Malieveld, zag een ANP-verslaggever. De mensen waren uitzinnig van blijdschap en vielen elkaar emotioneel in de armen.
6 uur geleden