Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Bij de pro-Israëlmanifestatie op de Dam zijn woensdagavond vier personen aangehouden, meldt de politie. Ze zijn aangehouden voor het verstoren van de demonstratie en het afsteken van een "rookpot", aldus een woordvoerder. De personen zitten vast.
4 uur geleden
AMSTERDAM (ANP) - Choreograaf Hans van Manen is op 93-jarige leeftijd overleden. Dat laat het Nationale Opera & Ballet weten aan het ANP. Van Manen stierf woensdagavond in zijn huis in Amsterdam een natuurlijke dood. De details over de uitvaart worden op een later moment bekendgemaakt.
5 uur geleden
AMSTERDAM (ANP) - Onder Amsterdamse studenten gaat een seksistisch sinterklaasgedicht rond waarin respectloos en met naam en toenaam wordt gerijmd over vrouwelijke leden van de corporale studentenvereniging ASC/AVSV. De verantwoordelijke leden zijn daarvoor geschorst, laat rector Quirine Postma van ASC/AVSV woensdagavond weten.
5 uur geleden
AMSTERDAM (ANP) - Op de Dam in Amsterdam waar om 19.30 uur een pro-Israëlmanifestatie is begonnen, is veel politie aanwezig. Volgens een agent zijn er zo'n 2000 mensen aanwezig. Zij dragen Israëlische vlaggen bij zich en hebben zich om een podium verzameld waar onder meer SGP-leider Chris Stoffer en opperrabijn Binyomin Jacobs spreken. Veel aanwezigen hebben een Israëlische vlag bij zich.
5 uur geleden
HILVERSUM (ANP) - Cornald Maas verzorgt volgend jaar niet het commentaar tijdens het Eurovisie Songfestival. Omdat AVROTROS zich uit het evenement heeft teruggetrokken, vindt de omroep het "niet passend" om dat door een gezicht van de omroep te laten doen.
10 uur geleden
DEN HAAG (ANP) - Het demissionaire kabinet volgt de wens van de Tweede Kamer en laat een besluit over de opening van Lelystad Airport voor passagiersvluchten aan zijn opvolger. Op de luchthaven worden wel F-35-gevechtsvliegtuigen gestationeerd. Dat besluit ligt vrijdag voor in de ministerraad, bevestigen Haagse bronnen na een bericht van De Telegraaf.
11 uur geleden
UTRECHT (ANP) - Op NS-stations is momenteel geen of verkeerde roisinformatie te zien op de borden. Dat komt door een technische storing. Ook komen vertragingen en wijzigingen niet goed door in de NS-reisplanner-app.
13 uur geleden