Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Defensie oefent weer met explosieven in natuurgebieden. Dat gebeurde tijdelijk niet nadat er eind vorige maand tijdens militaire oefeningen in onder meer Gelderland en Noord-Brabant natuurbranden waren uitgebroken. Het ministerie meldt wel voorwaarden te hebben gesteld aan oefenen met explosieven en andere brandbare materialen. Het mag alleen wanneer de weersomstandigheden het toelaten en het risico op natuurbranden laag blijft.
27 minuten geleden
ISTANBUL (ANP) - De zes Nederlandse opvarenden van de Gaza-vloot die woensdag door Israël werden opgepakt, kunnen het land donderdag verlaten. Ze vliegen samen met andere deelnemers naar Istanbul, laat de Nederlandse organisatie van de zogeheten Global Sumud Flotilla weten. Turkije heeft daar drie vluchten voor gecharterd.
1 uur geleden
STADSKANAAL (ANP) - De opvang voor zo'n vijftig asielzoekers in Stadskanaal was voor één nacht. "Het is nu aan het COA, het Rijk en andere gemeenten om voor de komende nacht een oplossing te organiseren", meldt de gemeente.
1 uur geleden
TER APEL (ANP) - In de opvang voor asielzoekers in het Groningse Ter Apel zijn woensdag bijna tachtig plekken vrijgekomen. Het is nog niet bekend of dit betekent dat opvangorgaan Centraal Orgaan opvang asielzoekers (COA) donderdag meer mensen kan toelaten op het terrein.
1 uur geleden
TER APEL (ANP) - Het Rode Kruis verwacht ook donderdag en mogelijk de dagen erna hulp te moeten bieden bij het overvolle aanmeldcentrum in Ter Apel. "Er is nog geen oplossing voor vanavond. We blijven hier zo lang als nodig", zegt een woordvoerder.
2 uur geleden
TER APEL (ANP) - Bij het aanmeldcentrum in Ter Apel zijn donderdagochtend weer tientallen mannen aangekomen, na een nacht in een haastig opgezette noodopvang in buurgemeente Stadskanaal. Een verslaggever van het ANP ziet dat het in elk geval deels om dezelfde mensen gaat die woensdagavond laat in een bus stapten. De asielzoekers konden toen niet in de opvang bij het aanmeldcentrum blijven slapen, omdat die helemaal vol zat.
3 uur geleden
DEN HAAG (ANP) - De Consumentenbond en 28 zusterorganisaties in andere landen willen dat de Europese Commissie in actie komt tegen nepadvertenties online. Volgens de organisaties doen bedrijven als Google, Meta en TikTok te weinig tegen financiële fraude.
3 uur geleden