
Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Filmproducent Rob Houwer is overleden, bevestigde Ineke van Wezel, die jarenlang met Houwer samenwerkte, zondag aan het ANP na berichtgeving van Het Parool. De producent van films als Turks Fruit en Soldaat van Oranje overleed vrijdag op 87-jarige leeftijd in Amsterdam. Hij was al een tijdje ernstig ziek.
8 uur geledenPARAMARIBO (ANP) - In het Surinaamse parlement is Jennifer Simons (71) zondagmiddag gekozen tot president. Omdat er geen tegenkandidaat was, gebeurde dat zonder stemming. Gregory Rusland is gekozen tot vicepresident." Op 16 juli neemt Simons de leiding van het land officieel over van Chan Santokhi. Zij zal leiding geven aan een coalitie van zes partijen.
9 uur geledenDEN HAAG (ANP) - Op de internationale 'peukenopruimdag' zijn zaterdag 964.000 peuken van straat gehaald. Dat is duidelijk meer dan de 600.000 peuken die vorig jaar werden geraapt. Dat komt onder meer doordat op veel meer plaatsen mensen de straat op gingen om aan de actie mee te doen, meldt de organisatie van de actie PeukMeuk.
15 uur geledenHILVERSUM (ANP) - De wedstrijd van het Nederlands elftal op het Europees kampioenschap tegen Wales is "in totaal door 2,9 miljoen" mensen bekeken. Dat meldt zondagochtend de NOS, die de wedstrijd uitzond. Via de site en app van de NOS keken bijna 180.000 mensen.
16 uur geledenROTTERDAM (ANP) - In Rotterdam is een jongeman gewond geraakt na een schietincident dat zich zondag kort na middernacht afspeelde op de Schinnenbaan in het stadsdeel Beverwaard. De politie heeft een verdachte aangehouden.
18 uur geledenAMSTERDAM (ANP) - Jongeren houden zondagmiddag een sit-in op Amsterdam Centraal voor het behoud van de jongerendagkaart. De organisatie Fridays For Future Nederland verwacht dat vanaf 13.00 uur tientallen jongeren aan het zittende protest deelnemen.
19 uur geledenROTTERDAM (ANP) - Deelnemers aan de jaarlijkse Roparun hebben vorige maand ruim 4,7 miljoen euro opgehaald voor goede doelen. Het geld is bestemd voor doelen die "het leven van mensen met kanker draaglijker maken". De organisatie van het sponsorevenement maakte de eindstand zaterdagavond bekend tijdens een slotfeest in De Kuip in Rotterdam.
1 dag geleden