Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - De gemeente Amsterdam stelt bij de rechter dat "beloftes aan bewoners juridisch niets waard zijn". Dat concludeert Alexander Klöpping via LinkedIn op basis van een schriftelijk verweer van de gemeente in een zaak over massatoerisme. Het Parool berichtte eerder al over het verweer. Vorig jaar stapte Stichting Amsterdam Heeft Een Keuze, met steun van Klöpping, naar de rechter omdat er ondanks een verordening te veel toeristen overnachten in de hoofdstad.
4 uur geleden
PHILIPSBURG (ANP) - Luc Mercelina, minister-president van Sint Maarten, heeft de regering van Nederland gefeliciteerd met de succesvolle totstandkoming van een nieuwe regering onder leiding van minister-president Rob Jetten. Mercelina zegt uit te kijken naar samenwerking met de regering van minister-president Jetten in een geest van wederzijds respect en gedeelde verantwoordelijkheid.
5 uur geleden
HILVERSUM (ANP) - De Nederlandse tv-kijker heeft de uitzendingen rond de Olympische Winterspelen van Milaan-Cortina 2026 goed weten te vinden. Dat meldt de NOS, waar het mondiale sportevenement de afgelopen weken te volgen was.
6 uur geleden
ROTTERDAM (ANP) - Ex-advocaat Inez Weski en haar advocaten hebben maandag in een extra ingelaste zitting in haar strafzaak opnieuw gevraagd om extra onderzoek naar de detentieomstandigheden van Weski na haar arrestatie. Weski (71) wordt verdacht van deelname aan de criminele organisatie van haar voormalige cliënt Ridouan Taghi.
6 uur geleden
AMSTERDAM (ANP) - Het Openbaar Ministerie mag Richard R., alias Rico de Chileen, vervolgen voor het voorbereiden van liquidaties. Dat is de uitkomst van een procedure in het geboorteland van R., Chili. Zijn advocaat bevestigt maandag berichtgeving hierover van De Telegraaf.
8 uur geleden
DEN HAAG (ANP) - De jaarlijkse paddentrek gaat van start. Dat schrijft RAVON (Reptielen Amfibieën Vissen Onderzoek Nederland) op zijn website. In heel Nederland trekken de komende tijd amfibieën naar het water om zich voort te planten.
9 uur geleden
ASSEN (ANP) - De politierechter in Assen heeft activist Jan H. (54) een celstraf van zes weken opgelegd, waarvan een maand voorwaardelijk, voor het oproepen tot grenscontroles door burgers. Deze controles hebben daarna ook daadwerkelijk plaatsgevonden. "Ik vind dat u hier over de grens bent gegaan", zei de rechter.
11 uur geleden