Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Het Vondelpark wordt het eerste gebied in Amsterdam waar niet meer op een fatbike mag worden gereden. Het verbod gaat op 11 mei in. Fatbikebestuurders krijgen twee weken om te wennen. Daarna wordt er gehandhaafd en riskeren ze een boete, meldt de gemeente.
4 uur geleden
HILVERSUM (ANP) - Omroepen KRO-NCRV, Omroep MAX en Omroep WNL willen samen een omroephuis gaan vormen. Dat laten de omroepen woensdag weten.
5 uur geleden
NIEUW-VENNEP (ANP) - Op de parkeerplaats bij station Nieuw-Vennep heeft de politie woensdag opnieuw onderzoek gedaan naar de dood van de 59-jarige vrouw wier lichaam daar maandagavond werd aangetroffen. Dat komt omdat een burger woensdagochtend "een voorwerp" vond en dat bij de politie meldde, bevestigt een woordvoerder na berichtgeving van het AD.
7 uur geleden
MAASTRICHT (ANP) - Vier mannen van 47, 65, 68 en 70 jaar uit Baarlo en Venlo krijgen boetes en taakstraffen voor het bedreigen en beledigen van de burgemeester van Venlo en opvangorgaan COA op sociale media, meldt het Openbaar Ministerie. Dit deden de mannen in aanloop naar een besluit over de komst van een asielzoekerscentrum in een oud klooster in Venlo. Naast hen zijn nog twee verdachten in beeld, zij bedreigden raadsleden, aldus een OM-woordvoerder.
7 uur geleden
ROTTERDAM (ANP) - Gedragsdeskundigen van het Pieter Baan Centrum (PBC), de observatiekliniek van justitie, beschouwen Sendric S. (25) als "ten minste sterk verminderd toerekeningsvatbaar". Zij adviseren tbs met dwangverpleging. S. lijdt aan schizofrenie, heeft een verstandelijke beperking en een stoornis op het gebied van cannabisgebruik. Volgens de deskundigen is hij "een ernstig beperkte en in psychiatrisch opzicht kwetsbare man". Zonder intensieve en langdurige behandeling is het gevaar voor herhaling groot.
10 uur geleden
NIEUW-VENNEP (ANP) - Er lijkt geen verband te zijn tussen het overlijden van twee vrouwen, in Nieuw-Vennep en in Amsterdam, die beiden bij hetzelfde bedrijf bleken te werken. Twee afzonderlijke rechercheteams onderzoeken de sterfgevallen. Dat meldt de politie. Voor de gewelddadige dood van de vrouw in Nieuw-Vennep is dinsdag iemand opgepakt. In Amsterdam wordt nog onderzocht of de dood van een vrouw aan de Koninginneweg een misdrijf is.
10 uur geleden
AMSTERDAM (ANP) - Met het luiden van de kerkklokken van De Nieuwe Kerk is in Amsterdam woensdag een speciale postzegel onthuld. Die is ontworpen om te vieren dat 25 jaar geleden het burgerlijk huwelijk in Nederland werd opengesteld voor paren van hetzelfde geslacht, in de volksmond homohuwelijk genoemd. Ons land had daarmee de wereldprimeur.
11 uur geleden