Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DRIEBERGEN (ANP) - De korpsleiding van de politie erkent fouten te hebben gemaakt in de interne communicatie over het onderzoek naar het raadplegen van de systemen in de zaak van Lisa. Brieven die intern verstuurd zijn, trekt de korpsleiding in, is te lezen in een verklaring.
35 minuten geleden
HARDENBERG (ANP) - Opvangorgaan COA krijgt waarschijnlijk ongeveer twee weken de tijd om twee opvanglocaties in de gemeente Hardenberg alsnog te sluiten. Daarna begint de teller voor de dwangsommen te lopen, zegt wethouder Alwin Mussche, die over de opvang van vluchtelingen gaat. De beide locaties hadden zondag moeten sluiten, maar zijn nog open.
2 uur geleden
DEN HAAG (ANP) - Het marineschip Zr. Ms. Evertsen gaat definitief naar het oosten van de Middellandse Zee. Het luchtverdedigings- en commandofregat vertrok vorige week al in die richting, maar een formeel besluit over de inzet ervan moest nog worden genomen.
2 uur geleden
SCHIPHOL (ANP) - Een groep gestrande reizigers is vanuit het Midden-Oosten via Egypte teruggekeerd in Nederland. Op Schiphol landde iets na 17.30 uur een Transavia-vlucht uit Hurghada. Over het exacte aantal Nederlanders is nog niets bekendgemaakt.
2 uur geleden
TER APEL (ANP) - Opvangorgaan COA had "geen andere keuze" dan twee opvanglocaties in de gemeente Hardenberg open te houden, ook al hadden die zondag moeten sluiten. Dat zegt bestuurder Joeri Kapteijns.
3 uur geleden
CAPELLE AAN DEN IJSSEL (ANP) - De 17-jarige jongen die afgelopen donderdag werd neergeschoten door de politie in Capelle aan den IJssel, is zelf verdachte van een beroving die eerder die dag plaatsvond. Dat meldt het Openbaar Ministerie maandagmiddag. De jongen raakte gewond door de beschieting. Zijn medische toestand is stabiel, aldus een woordvoerder.
4 uur geleden
WARSCHAU (ANP) - Er moet een "pragmatische oplossing" komen voor de hoogoplopende ruzie tussen Oekraïne en Hongarije over olieleveranties, zei zowel premier Rob Jetten als de Poolse premier Donald Tusk maandag op een gezamenlijke persconferentie. Maar de laatste maakte ook duidelijk dat het conflict de miljardenlening van de EU aan Oekraïne niet kan stoppen.
4 uur geleden