Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Het Centraal Joods Overleg (CJO) dreigt naar de rechter te stappen als het kabinet geen inreisverbod instelt voor de artiest Kanye West, meldt de organisatie zondag in een verklaring. Het verzoek om Kanye West, bekend als Ye, de toegang tot Nederland te ontzeggen is vrijdag door het CJO neergelegd bij minister Bart van den Brink (Asiel en Migratie).
48 minuten geleden
DE BILT (ANP) - In Gelderland en Overijssel is code geel van kracht wegens onweersbuien, meldt het KNMI. Daarbij kan plaatselijk hagel vallen en veel neerslag, aldus het weerinstituut.
1 uur geleden
GRONINGEN (ANP) - Zeven deelnemers aan de halve marathon in Groningen zijn zondag bevangen door de warmte. Dat meldt Golazo, de organisator van het evenement. Van hen zijn er twee naar het Universitair Medisch Centrum Groningen (UMCG) gebracht. De andere deelnemers zijn bij de finish behandeld met bijvoorbeeld koeldekens. Uit voorzorg zijn meerdere ambulances opgeroepen. Mogelijk zijn er op de route nog meer mensen onwel geworden.
3 uur geleden
ZEIST (ANP) - De politie heeft op sociale media meerdere bedreigende en beledigende reacties binnengekregen op haar bericht over een aanhouding in Zeist waarbij agenten geweld hebben gebruikt. Het is daarom niet langer mogelijk om te reageren onder dit bericht op Facebook en Instagram, laat een woordvoerder weten. "Kritiek en een gesprek zijn goed en belangrijk, maar alle fatsoensnormen werden overschreden", zegt zij.
3 uur geleden
WARFFUM (ANP) - In de nacht van zaterdag op zondag hebben zestig asielzoekers in de nachtopvang in Warffum geslapen, meldt een woordvoerster van het Rode Kruis. Dat zijn er iets meer dan een nacht eerder, toen 45 mensen in de Groningse plaats werden opgevangen. Net als toen hebben afgelopen nacht twee mensen vrijwillig op het grasveld bij het aanmeldcentrum in Ter Apel doorgebracht.
7 uur geleden
ROTTERDAM (ANP) - In aanloop naar en tijdens de vierde editie van de Nacht tegen Seksueel Geweld is een recordbedrag opgehaald van meer dan 320.000 euro. Dat meldt Plan International, de organisatie achter de mars in Rotterdam waaraan zaterdagavond en afgelopen nacht bijna 2300 deelnemers meededen. Zij vroegen daarmee aandacht voor straatintimidatie en seksueel geweld.
9 uur geleden
HOUTEN (ANP) - Het wordt in juni, de eerste maand van de meteorologische zomer, warmer en droger dan gemiddeld. Weeronline verwacht dat de eerste week nog wisselvallig verloopt, maar daarna stijgt de temperatuur en laat de zon zich vaak zien.
10 uur geleden