Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN BOSCH/DEN HAAG (ANP) - De commissarissen van de Koning in Noord-Brabant en Zuid-Holland vinden het "zeer teleurstellend" dat het lekken van twee sollicitaties van Esmah Lahlah onbestraft blijft. Ina Adema en Wouter Kolff hadden aangifte gedaan, omdat naar buiten was gekomen dat het Tweede Kamerlid van GroenLinks-PvdA had gesolliciteerd voor burgemeestersfuncties in Tilburg en Delft, een vertrouwelijke procedure waar geheimhouding op rust.
7 minuten geleden
AMSTERDAM (ANP) - De kelder van de Vondelkerk in Amsterdam wordt woensdag leeggepompt. In de kelder staat 70 centimeter bluswater na de grote brand die de kerk in de nieuwjaarsnacht grotendeels verwoestte.
10 minuten geleden
DEN HAAG (ANP) - Asielzoekers die geld hebben gekregen omdat de IND te lang doet over het beslissen over hun asielaanvraag, moeten dat boven een bepaalde grens inleveren om mee te betalen aan hun opvang. Dat heeft de Raad van State (RvS) woensdag besloten, in lijn met de werkwijze van opvangorgaan COA.
1 uur geleden
VLISSINGEN (ANP) - De schade na een explosie en daaropvolgende brand dinsdagavond in een wooncomplex in Vlissingen (Zeeland) is groot. De bewoner van het appartement waar de explosie zich voordeed, ligt nog in het ziekenhuis. Dat meldt de gemeente. Het complex aan de Schutterijstraat, maar ook omliggende panden en auto's hebben veel schade opgelopen door de klap en de grote uitslaande brand.
1 uur geleden
HOUTEN (ANP) - De winter is tot dusver een halve graad kouder dan gebruikelijk, meldt Weeronline. In de eerste helft van de meteorologische winter was de gemiddelde temperatuur in De Bilt 3,6 graden, normaal is dat 4,1 graden.
4 uur geleden
ROTTERDAM (ANP) - De huurmarkt in de vrije sector bleef ook in het vierde kwartaal van 2025 "structureel krap", melden woningplatformen Huurwoningen.nl en Pararius. De prijs ging omhoog naar gemiddeld 1838 euro per maand en er verdwenen meer huurwoningen van de markt dan erbij kwamen. Beschikbare woningen stonden minder lang online; het scheelt een dag vergeleken met hetzelfde kwartaal een jaar eerder.
7 uur geleden
DEN HAAG (ANP) - Steeds meer Nederlanders gebruiken AI-tools bij het plannen van hun vakantie, zo blijkt uit de zogenoemde vakantiemonitor van de ANWB. Kunstmatige hulpmiddelen zoals ChatGPT en Gemini worden niet alleen ingezet om inspiratie op te doen, maar ook om reisschema's samen te stellen, een passende bestemming te vinden en activiteiten te plannen. Zowel vooraf als tijdens de reis. Van alle Nederlanders gebruikt ruim 34 procent zo'n tool daarvoor.
8 uur geleden