Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
GRONINGEN (ANP) - Bij het dorp Usquert in de provincie Groningen is maandagavond een aardbeving geweest. Die had een magnitude van 0.9, te licht om te voelen. Het is de 2000e aardbeving door gaswinning die in Nederland is geregistreerd. De eerste was in 1986 bij Assen.
30 minuten geleden
DEN HAAG (ANP) - In het onderzoek naar het datalek bij laboratorium Clinical Diagnostics hebben 118 personen aangifte gedaan, meldt het Openbaar Ministerie. Het OM opende afgelopen zomer een strafrechtelijk onderzoek naar het datalek, waarbij persoonsgegevens van 855.000 mensen waren gestolen.
45 minuten geleden
DEN HAAG (ANP) - Het aantal boetes voor het vasthouden van een telefoon of ander elektronisch apparaat in de auto of op de fiets is afgelopen jaar "flink gestegen", meldt het Centraal Justitieel Incassobureau (CJIB). In 2025 werden 248.020 boetes uitgedeeld voor zaken als appen achter het stuur.
1 uur geleden
AMSTERDAM (ANP) - In een winkel aan de Ferdinand Bolstraat in de Amsterdamse wijk De Pijp is in de nacht van maandag op dinsdag een grote brand uitgebroken. Volgens een woordvoerder van de veiligheidsregio zijn meerdere personen naar het ziekenhuis vervoerd. Om hoeveel mensen het precies gaat en hoe ernstig hun verwondingen zijn, weet hij niet. Ook zijn meerdere mensen ter plaatse nagekeken, omdat zij rook hebben ingeademd.
3 uur geleden
AMSTERDAM (ANP) - In Amsterdam is in de nacht van maandag op dinsdag een zeer grote brand uitgebroken. Dat meldt de veiligheidsregio.
4 uur geleden
DEN HAAG (ANP) - De angst om iets fout te doen bij het reanimeren blijkt voor mensen de grootste drempel om zich aan te melden voor burgerhulpverlening, blijkt uit onderzoek in opdracht van de Hartstichting. Burgerhulpverleners zijn mensen met een reanimatiecertificaat die na een oproep in een landelijk netwerk direct naar een slachtoffer kunnen voor de eerste hulp.
6 uur geleden
WOERDEN (ANP) - In de buurt van Woerden is een trein ontruimd nadat er brand was geconstateerd. Volgens NS staan zo'n 120 gestrande reizigers in een weiland naast het traject tussen Utrecht en Rotterdam. De brandweer is ter plaatse en het vuur in de trein is uit. Niemand raakte gewond.
13 uur geleden