Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De dossiers van ruim 69.000 mensen die zich hadden gemeld voor compensatie om de toeslagenaffaire zijn beoordeeld. Meer dan 43.000 mensen zijn uiteindelijk na deze integrale beoordeling (IB) erkend als gedupeerde, meldt demissionair staatssecretaris Sandra Palmen (Toeslagen) donderdag aan de Tweede Kamer.
9 uur geleden
LELYSTAD (ANP) - Actievoerders van Greenpeace gaan door met de bezetting van het hoofdgebouw van Lelystad Airport zodat het vliegveld niet gebruikt kan worden. Een woordvoerder van de milieuorganisatie laat weten dat de activisten net zo lang blijven zitten "tot dit vliegveld definitief van de baan is".
10 uur geleden
AMSTERDAM (ANP) - Zes dagen nadat in Het Parool een artikel is verschenen over de misdragingen van student Marlon U., heeft de Vrije Universiteit (VU) in Amsterdam maatregelen aangekondigd. Rector Jeroen Geurts meldde onder meer dat er gesprekken lopen met studentenvertegenwoordigers en studentenverenigingen op de campus en dat die gesprekken de komende weken en maanden worden voortgezet.
10 uur geleden
GRONINGEN (ANP) - Drie Turkse moskeeën hebben brieven ontvangen die oproepen tot het stoppen van de 'islamisering', met daarbij een opsomming van aanslagen, zoals die op 11 september 2001 op het World Trade Center in New York. De briefschrijver noemt de islamitische vastenmaand ramadan, die volgende week begint, als aanleiding. De Islamitische Stichting Nederland (ISN) deelt de brief.
10 uur geleden
BRUSSEL (ANP) - Ook Nederland betaalt mee om een nieuw pakket Amerikaanse wapens voor Oekraïne te betalen. Naast bijdragen van het Verenigd Koninkrijk, Zweden en Noorwegen steekt ook Nederland er zo'n 90 miljoen euro in. De Nederlandse bijdrage is echter geen nieuw geld, maar al eerder opzijgelegd voor het zogeheten PURL-programma om Amerikaanse wapens te kopen waar Oekraïne nog niet zonder kan.
12 uur geleden
UTRECHT (ANP) - Het gebrekkige algoritme dat de reclassering gebruikte bij het inschatten van de recidivekans van verdachten of veroordeelden, schaadt het vertrouwen in het strafrechtelijke systeem. Dat zegt Slachtofferhulp Nederland. Volgens een woordvoerster is dat vertrouwen juist cruciaal voor het herstel van slachtoffers.
12 uur geleden
UTRECHT (ANP) - Medewerkers in de jeugdzorg leggen maandag 2 maart in heel Nederland 24 uur het werk neer. Dat melden vakbonden FNV, CNV en FBZ. De werknemers verzamelen zich in Utrecht uit protest tegen de vastgelopen cao-onderhandelingen.
13 uur geleden