Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ROTTERDAM (ANP) - Na afloop van een concert van de hiphopgroep Broederliefde in Ahoy in Rotterdam zijn vrijdagavond twee mensen gewond geraakt door een steekpartij, meldt de politie rond middernacht op X. De steekpartij vond plaats toen fans na het optreden de concertzaal verlieten. De twee slachtoffers zijn naar het ziekenhuis gebracht.
2 uur geleden
WINTERSWIJK (ANP) - Voorzitter Auke Spijkstra van de Winterswijkse IJsvereniging is tevreden met de eerste marathon op natuurijs die dit jaar werd gehouden op de schaatsbaan De Witte Poorte. "Het is hartstikke goed gegaan, iedereen is heel blij", zei hij bij de finish van de schaatsbaan in Winterswijk, waar de marathon van de mannen net was afgelopen.
7 uur geleden
AMSTERDAM (ANP) - De kerstdagen zijn sinds het begin van de metingen nog nooit zo zonnig verlopen als dit jaar. Volgens Weeronline scheen de zon op beide kerstdagen 6,7 uur in De Bilt. Tegelijkertijd is het de koudste kerst sinds het jaar 2000.
11 uur geleden
AMSTERDAM (ANP) - De kerstdagen zijn sinds het begin van de metingen nog nooit zo zonnig verlopen als dit jaar. Weeronline becijfert dat de zon op beide kerstdagen 6,7 uur scheen in De Bilt. Tegelijkertijd is het volgens de weersite de koudste kerst sinds het jaar 2000, met een gemiddelde temperatuur van 1,5 graden.
11 uur geleden
LICHTENVOORDE (ANP) - Vijftig huizen aan het Marishof in Lichtenvoorde (Gelderland) zijn tweede kerstdag enkele uren ontruimd geweest na de vondst van explosief materiaal in een woning. De Explosieven Opruimingsdienst Defensie heeft de explosieven buiten Lichtenvoorde tot ontploffing gebracht, meldde veiligheidsregio Noord- en Oost-Gelderland. De bewoners konden daarna weer terug naar huis.
11 uur geleden
TILBURG (ANP) - Tilburgse jongeren hebben woensdagavond hulpverleners en een geparkeerde politieauto beschoten met vuurwerk. Dat meldt de politie vrijdag. Drie minderjarigen zijn aangehouden en vanaf het politiebureau zijn hun ouders gebeld. De jongeren worden doorverwezen naar HALT en hebben tot na oud en nieuw een gebiedsverbod gekregen.
14 uur geleden
EDE (ANP) - De man die ervan wordt verdacht op eerste kerstdag in Ede op een ruziënde groep mensen te zijn ingereden, is een 64-jarige man uit de Gelderse plaats. De drie mensen die gewond raakten, zijn bekenden van hem. Het gaat om mannen van 30, 40 en 51 jaar, eveneens uit Ede. Over de precieze relatie tussen de mensen doet de politie geen uitspraken.
15 uur geleden