Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Turkije heeft een 50-jarige Nederlander uitgeleverd aan Nederland, meldt het Openbaar Ministerie. Justitieminister David van Weel meldt op X dat het om Harry L. gaat, de broer van Bolle Jos. Hij wordt volgens het OM vervolgd voor het witwassen van "een aanzienlijke hoeveelheid geld, goud en horloges". De verdachte is onder begeleiding van de Koninklijke Marechaussee aangekomen op Rotterdam The Hague Airport en aangehouden.
49 minuten geleden
MIDDELBURG (ANP) - De rechtbank in Middelburg heeft dinsdag een 40-jarige voetbaltrainer uit Vlissingen veroordeeld tot een gevangenisstraf van vijf jaar voor het jarenlang heimelijk filmen van ruim vijfhonderd jonge jongens in de kleedkamers van verschillende voetbalclubs. De rechtbank acht hem ook schuldig aan ontucht met een minderjarige jongen.
5 uur geleden
SCHIPHOL (ANP) - Het Openbaar Ministerie heeft dinsdag een levenslange celstraf geëist tegen vier verdachten in het hoger beroep van het grote liquidatieproces Marengo. De zaak draait onder meer om zes onderwereldmoorden.
5 uur geleden
DEN HAAG (ANP) - Bij uit de hand gelopen demonstraties tegen de komst van asielzoekers in Vriezenveen en Wijk bij Duurstede zijn maandagavond drie mensen aangehouden. Dat meldt de politie dinsdag. In het Overijsselse Vriezenveen ging het om twee personen, in Wijk bij Duurstede om een arrestatie.
6 uur geleden
DEN HAAG (ANP) - De Japanse keizer Naruhito brengt over twee weken een bezoek aan Delft, Leiden, Utrecht en Amstelveen. De Rijksvoorlichtingsdienst heeft dinsdag het programma bekendgemaakt.
7 uur geleden
BRUSSEL (ANP) - Justitie in België wil drie verdachten vervolgen voor het plannen van een ontvoering van de toenmalige Belgische minister van Justitie Vincent Van Quickenborne in 2022. Een woordvoerster van het federaal parket in Brussel bevestigt berichtgeving daarover van Belgische media. De kranten schrijven dat het Nederlanders betreft.
8 uur geleden
WASHINGTON (ANP) - De Amerikaanse ambassade in Nederland raadt voetbalfans die voor het WK naar de Verenigde Staten afreizen aan extra reistijd in te plannen en ervoor te zorgen dat alle papieren op orde zijn. Er wordt extra drukte op vliegvelden verwacht, vooral bij de douane. Om alles in goede banen te laten lopen, zet het land extra personeel in, net als snellere verwerkingssystemen.
8 uur geleden