Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Duizenden mensen zijn zaterdag iets na 16.00 uur aangekomen op het Museumplein in Amsterdam na een mars tegen fascisme en racisme. Die vertrok rond 15.00 uur vanaf de Dam. Toen ging het nog om een paar honderd demonstranten, maar onderweg sloten veel mensen zich bij de stoet aan, zag een ANP-verslaggever.
2 uur geleden
HILVERSUM (ANP) - Sarah Janneh en Kiki Schippers maken dit jaar kans op de Annie M.G. Schmidtprijs, de prijs voor het beste theaterlied van het voorgaande jaar. De nominaties werden zaterdag bekendgemaakt in het NPO Radio 1-programma De Taalstaat.
6 uur geleden
ARNHEM (ANP) - Burgemeester Ahmed Marcouch van Arnhem heeft zaterdagochtend in Arnhem de Nederlandse regering opgeroepen om excuses te maken aan Molukkers in Nederland voor de wijze waarop zij zijn behandeld vanaf 1951. In dat jaar kwamen duizenden mensen naar Nederland na een dienstbevel van de regering. Nederland haalde hen na de Indonesische onafhankelijkheid in 1949 hierheen, in afwachting van de vestiging van een eigen onafhankelijke republiek op het eiland Ambon. Die staat is er tot op heden niet gekomen.
6 uur geleden
SCHOONHOVEN (ANP) - De politie is nog altijd op zoek naar de auto waarin vermoedelijk de schutter is gevlucht na het neerschieten van een uit Iran afkomstige politiemedewerker. Dat laat een politiewoordvoerster weten. Of er al tips zijn binnengekomen over de Toyota Yaris, die wegreed richting Lopik, kan ze in het belang van het onderzoek niet delen.
7 uur geleden
AMSTERDAM (ANP) - De anti-abortusorganisatie Schreeuw om Leven heeft op een misleidende manier reclame gemaakt voor hulp aan onbedoeld zwangere vrouwen. Op de gratis Boomerangkaart, waar de hulp werd aangeboden, ontbreekt de naam en visie van de adverteerder. Hierdoor is de kaart volgens de Reclame Code Commissie (RCC) in strijd met de Nederlandse Reclame Code. Dat blijkt uit een uitspraak van de commissie van begin maart.
7 uur geleden
AMSTERDAM (ANP) - De politie heeft een verdachte aangehouden voor de dodelijke schietpartij vorig weekend op het Koningin Wilhelminaplein in Amsterdam Nieuw-West. Het gaat om een 24-jarige man uit de hoofdstad, meldt de politie.
9 uur geleden
DEN HAAG (ANP) - Tienduizenden vrijwilligers ruimen zaterdag door heel Nederland zwerfafval op tijdens de 24e editie van de Landelijke Opschoondag. Bij organisator Verpact, dat namens het bedrijfsleven verantwoordelijk is voor de inzameling en recycling van verpakkingen, zijn zeker 1525 acties aangemeld.
11 uur geleden