Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Demissionair minister-president Dick Schoof vindt het "goed nieuws" dat de EU-ministers van Buitenlandse Zaken hebben besloten de Iraanse Revolutionaire Garde op de lijst van terroristische organisaties te zetten. "Nederland heeft hier jarenlang voor gepleit", memoreert de partijloze premier in een tweet.
51 minuten geleden
BRUSSEL (ANP) - Onder de EU-ministers van Buitenlandse Zaken is brede steun om snel een nieuw sanctiepakket op te leggen aan Rusland, zei demissionair minister David van Weel (Buitenlandse Zaken). Niet in de laatste plaats omdat de situatie voor Oekraïners onleefbaar is door de kou. Het is Oekraïne daarnaast niet duidelijk hoe serieus Rusland is in de onderhandelingen over vrede.
1 uur geleden
HEEMSKERK (ANP) - Het gebied rond het gemeentehuis van Heemskerk en de omgeving van het station in de Noord-Hollandse plaats zijn donderdag aangewezen als veiligheidsrisicogebied. Burgemeester Alexander Luijten heeft dat besluit genomen omdat er demonstraties zijn aangekondigd rond de gemeenteraadsvergadering van donderdagavond. Tijdens die vergadering wordt onder meer gesproken over een asielzoekerscentrum in de gemeente.
1 uur geleden
DEN HAAG (ANP) - Nederland kan de industrie in zijn geheel kwijtraken als de politiek geen keuzes maakt over verduurzaming. Dat signaleert de Wetenschappelijke Klimaatraad (WKR) donderdag in een belangrijk rapport over de industrie op de vooravond van een nieuw kabinet.
1 uur geleden
ZAANDAM (ANP) - Tata Steel heeft 8,5 miljoen euro moeten betalen, omdat de staalproducent te veel schadelijke stoffen zou hebben uitgestoten. Het is een van de hoogste straffen ooit voor Tata Steel, gevestigd in de Noord-Hollandse IJmond. De Omgevingsdienst Noordzeekanaalgebied (OD NZKG) heeft die miljoenen ingevorderd op basis van metingen van het bedrijf zelf.
3 uur geleden
UTRECHT (ANP) - De politie is bekend met bedreigingen aan het adres van de politieman die maandag betrokken was bij een geweldsincident onder het bollendak op het stationsplein in Utrecht. "Wij zien natuurlijk ook bepaalde berichten online jegens collega's en hebben daar uiteraard aandacht voor", reageert een politiewoordvoerder na berichtgeving door RTV Utrecht.
3 uur geleden
ROTTERDAM (ANP) - Rotterdammers die gebruikmaken van de plaatselijke voedselbank kunnen sinds deze week een gratis noodpakket ophalen. De pakketten worden ingekocht door de gemeente en uitgedeeld in de vestigingen van de voedselbank.
4 uur geleden