Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Cosmeticaketen Rituals is slachtoffer geworden van een hack, waarbij gegevens van klanten op onrechtmatige wijze zijn gedownload. De onderneming waarschuwt klanten dat ze nu extra alert moeten zijn op eventuele phishingberichten. De gedownloade gegevens kunnen namelijk door fraudeurs worden misbruikt, bijvoorbeeld voor valse e-mails. Van hoeveel klanten gegevens zijn gelekt, is niet duidelijk.
30 minuten geleden
IJMUIDEN (ANP) - Tata Steel laat zijn Direct Sheet Plant (DSP), ook wel bekend als gietwalsinstallatie, in IJmuiden deze week proefdraaien om metingen te doen. De installatie werd begin deze maand stilgelegd in overleg met de Omgevingsdienst Noordzeekanaalgebied (ODNZKG), nadat uit metingen van Tata was gebleken dat de uitstoot van chroom-6 te hoog was.
1 uur geleden
AMSTERDAM (ANP) - De twee tieners die op nieuwjaarsdag in een park in Amsterdam werden doodgeschoten, waren volgens het OM "op de verkeerde plaats, op de verkeerde tijd". Verdachte Efe Y. (25) zou die avond onmiddellijk op de slachtoffers hebben geschoten. "Er was geen tijd voor ruzie, een gesprek of een aanval vanuit hen", zei de officier van justitie woensdag tijdens de eerste inleidende zitting in de zaak.
1 uur geleden
LOOSDRECHT (ANP) - Er zijn acht mensen aangehouden na de ongeregeldheden dinsdagavond bij een demonstratie tegen de komst van asielzoekers in het leegstaande gemeentehuis in Loosdrecht, meldt een woordvoerder van de politie. De mobiele eenheid greep in nadat er met stenen was gegooid.
1 uur geleden
DORDRECHT (ANP) - De rechtbank in Dordrecht heeft woensdag een voorwaardelijke celstraf van vier maanden en een taakstraf van 120 uur opgelegd aan een 34-jarige man uit Rijsenhout (Noord-Holland) voor het afleveren van drugs met drones en telefoons aan gevangenen en drugsbezit. Daarnaast krijgt de man een boete van 10.000 euro waarvan de helft voorwaardelijk. De rechtbank ging akkoord met procesafspraken tussen het Openbaar Ministerie en verdachte Mark S. en deed na afloop van de inhoudelijke behandeling direct uitspraak.
2 uur geleden
DEN HAAG (ANP) - Het kabinet moet wat de provincies betreft zo snel mogelijk crisismaatregelen nemen tegen de overbelasting van het elektriciteitsnet. Het Interprovinciaal Overleg (IPO) roept de regering onder meer op meer geld uit te trekken voor warmtenetten en waterstof om de gevolgen van netcongestie beter op te kunnen vangen.
2 uur geleden
DEN HAAG (ANP) - Den Haag, Amsterdam, Utrecht en de G40-steden, het netwerk van 41 grote en middelgrote steden, doen "opnieuw een dringend beroep op het Rijk" om extra geld beschikbaar te stellen voor het uitvoeren van de inburgeringswet. Het aantal inburgeraars is verdubbeld ten opzichte van eerdere inschattingen, maar het budget voor de uitvoeringskosten is ondanks eerder gemaakte afspraken niet verhoogd, stellen de gemeenten in een persbericht.
5 uur geleden