Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De storing die zaterdagmiddag het meldkamersysteem van de hulpdiensten heeft getroffen, raakt onder meer het politienummer 0900-8844, bedoeld voor zaken die geen spoed hebben. Dat meldt een woordvoerder van de landelijke eenheid van de politie. Het niet-spoednummer is op zich bereikbaar, maar bellers kunnen wel problemen ervaren, zegt zij. Ook alarmnummer 112 is bereikbaar, maar het kan langer duren voordat bellers iemand aan de lijn krijgen.
2 uur geleden
ROTTERDAM (ANP) - Het meldkamersysteem van de hulpdiensten kampt zaterdagmiddag met een landelijke storing. Daardoor duurt het langer voordat bellers iemand aan de lijn krijgen als ze 112 bellen. Ook het politienummer voor niet-spoedzaken 0900-8844 is moeilijker bereikbaar, zegt een woordvoerder van de landelijke eenheid van de politie. Er wordt hard gewerkt aan een oplossing.
3 uur geleden
ROTTERDAM (ANP) - Het Nederlands Fotomuseum is zaterdag officieel opengegaan voor het publiek in het nieuwe onderkomen. Het museum zit nu in het monumentale pakhuis Santos op Katendrecht in Rotterdam-Zuid. In het museum wordt een collectie van ruim 6,5 miljoen objecten gehuisvest. Dat is naar eigen zeggen een van de grootste museale fotocollecties ter wereld.
4 uur geleden
DE BILT (ANP) - In het midden en het noorden van het land kan het zaterdagochtend plaatselijk erg mistig zijn. Het KNMI heeft om die reden code geel afgegeven voor de provincies Noord-Holland, Utrecht, Gelderland, Flevoland, Overijssel, Drenthe, Friesland en Groningen.
9 uur geleden
GORSSEL (ANP) - In Gorssel zijn in de nacht van vrijdag op zaterdag twee mensen om het leven gekomen bij een ernstig eenzijdig ongeval. De politie kreeg rond 00.45 uur een melding van het ongeval op de N348 (Deventerweg) in de Gelderse plaats. Een derde inzittende is gewond geraakt en naar het ziekenhuis gebracht. Het is niet duidelijk of er nog meer mensen in de auto zaten.
12 uur geleden
KESSEL (ANP) - Bij een verkeersongeval in Kessel, tussen Venlo en Roermond in de provincie Limburg, is vrijdagavond een persoon om het leven gekomen. Een andere inzittende is gewond geraakt en met spoed naar het ziekenhuis gebracht.
15 uur geleden
UTRECHT (ANP) - De vrouwen die betrokken waren bij het incident in Utrecht waarbij een politieagent geweld gebruikte, onderschrijven de conclusie dat er toen "deels disproportioneel geweld" tegen hen is gebruikt. Dat laat hun advocaat vrijdag weten. "Cliënten zijn ook verheugd om te horen dat de politie daar haar verantwoordelijkheid voor wil nemen en lering uit wil trekken", stelt hij.
20 uur geleden