Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - De politie verdenkt drie mensen ervan betrokken te zijn bij de bekladding van het Nationaal Monument op de Dam in Amsterdam. Rond 04.30 uur is het monument besmeurd met een rode substantie. Schoonmaakploegen zijn al uren bezig de bekladding te verwijderen. Later op de dag wordt op de Dam de Nationale Herdenking gehouden.
28 minuten geleden
DEN HAAG (ANP) - Het is volgens het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) belangrijk om te achterhalen welk hantavirus precies is aangetroffen bij de opvarende van het cruiseschip bij Kaapverdië. Er bestaat een kans dat het gaat om een zeldzame variant die van mens op mens overdraagbaar is, zegt Chantal Reusken, viroloog en onderzoeker bij het RIVM.
29 minuten geleden
DEN HAAG (ANP) - Het kabinet moet een aantal dingen beter uitleggen in het wetsvoorstel voor het verhogen van het eigen risico. De Raad van State vindt het een goed wetsvoorstel en schrijft in het advies ook te begrijpen waarom het gebeurt, maar er is nog onduidelijkheid over hoe financiële ondersteuning wordt geregeld voor mensen die dat nodig hebben.
1 uur geleden
DEN HAAG (ANP) - Het ministerie van Buitenlandse Zaken (BuZa) bekijkt de mogelijkheden om "enkele personen" medisch te evacueren van het cruiseschip MV Hondius. Dat meldt een woordvoerder.
1 uur geleden
DEN HAAG (ANP) - In de KB nationale bibliotheek in Den Haag is "een bijzondere vondst van verzetsmateriaal uit de Tweede Wereldoorlog" gedaan, meldt de organisatie in een persbericht. Het gaat onder meer om vervalste persoonsbewijzen en ontheffingen, foto's van gebombardeerde steden en voedselkaarten voor concentratiekampen.
1 uur geleden
TEHERAN (ANP/AFP) - De Iraanse krijgsmacht waarschuwt de Amerikaanse marine aan te zullen vallen als deze de Straat van Hormuz binnenvaart, schrijven Iraanse staatsmedia. De Verenigde Staten kondigden zondagavond aan vanaf maandag schepen door de belangrijke zeestraat te begeleiden. Iran benadrukt dat veilige doorgang moet worden gecoördineerd met het land.
2 uur geleden
UTRECHT (ANP) - ProRail verwacht dat het treinverkeer tussen Utrecht en Den Haag rond 09.00 uur weer wordt vrijgegeven. De seinstoring bij Moordrecht, waardoor er geen treinen konden rijden, is verholpen. Er was daar een kabel kapot gegaan.
2 uur geleden