Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
UTRECHT (ANP) - De vrouwen die betrokken waren bij het incident in Utrecht waarbij een politieagent geweld gebruikte, onderschrijven de conclusie dat er toen "deels disproportioneel geweld" tegen hen is gebruikt. Dat laat hun advocaat vrijdag weten. "Cliënten zijn ook verheugd om te horen dat de politie daar haar verantwoordelijkheid voor wil nemen en lering uit wil trekken", stelt hij.
3 uur geleden
DEN HAAG (ANP) - De hack bij de Raad voor de rechtspraak is onhandig voor medewerkers, maar verder niet ontregelend. Dat laat een woordvoerster weten. Volgens haar kunnen medewerkers een app nu niet meer gebruiken waardoor bijvoorbeeld e-mails niet meer op de telefoon bekeken kunnen worden. Via de laptop kan alles wel gewoon gebruikt worden.
5 uur geleden
UTRECHT (ANP) - Het geweld dat een politieagent in Utrecht eind januari gebruikte bij de aanhouding van een vrouw onder het bollendak bij Utrecht Centraal, voldeed deels niet aan de instructies. Dat concludeert politiechef Yvonne Hondema vrijdagavond in een bericht over het incident. Een politiewoordvoerder laat weten dat er voor de agent geen consequenties volgen.
5 uur geleden
AMSTERDAM (ANP) - De Vrije Universiteit (VU) is "aangedaan" door ervaringen die meerdere studenten beschrijven te hebben meegemaakt met een andere student, die zich zou hebben misdragen. Het Parool bericht hier vrijdag over. Inhoudelijk zegt de universiteit om privacyredenen niet in te kunnen gaan op "meldingen die bij ons bekend zijn", meldt de onderwijsinstelling in een verklaring.
5 uur geleden
NIJMEGEN (ANP) - Tijdens de eerste inschrijfperiode van de Vierdaagse zijn er 44.638 tickets verkocht voor het Nijmeegse wandelevenement in juli. Dat betekent dat er nog 2362 startbewijzen te vergeven zijn. Die gaan komende maandag in de verkoop, laat de organisatie weten.
6 uur geleden
MAASTRICHT (ANP) - De provincie Limburg gaat een verkennend onderzoek uitvoeren naar kleine kerncentrales, zogeheten SMR's. De provincie heeft daar geld voor ontvangen van het Rijk, zei gedeputeerde Marc van Caldenberg (SP). Er wordt onder meer gekeken naar de randvoorwaarden die nodig zijn om kleine modulaire reactoren neer te kunnen zetten in Limburg.
6 uur geleden
DEN HAAG (ANP) - Door een datalek zijn gegevens van medewerkers van de Autoriteit Persoonsgegevens (AP) en Raad voor de rechtspraak gelekt, melden de demissionaire staatssecretarissen Arno Rutte (Justitie en Veiligheid, VVD) en Eddie van Marum (Binnenlandse Zaken, BBB).
8 uur geleden