Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Het marineschip DSS Galatea begeleidt momenteel twee Russische schepen die vanuit het zuiden het Nederlandse deel van de Noordzee zijn binnengevaren. Het is de tweede keer in enkele dagen dat dit gebeurt, meldt het ministerie van Defensie.
44 minuten geleden
GOUDA (ANP) - De bestuurster van de auto die woensdagochtend te water raakte bij de Julianasluis in Gouda is aan haar verwondingen overleden. Dat meldt de politie woensdag aan het eind van de middag. Het slachtoffer is een 58-jarige vrouw uit de Zuid-Hollandse plaats.
44 minuten geleden
DEN HAAG (ANP) - De toezichthouder voor privacy, de Autoriteit Persoonsgegevens, wil dat het komende kabinet meer doet tegen het massaal verzamelen van persoonsgegevens door bedrijven en overheden. Ook zou de overheid moeten zorgen voor veilige toepassingen van kunstmatige intelligentie (AI), zegt de waakhond.
1 uur geleden
UTRECHT (ANP) - Jeugdzorgmedewerkers uit het hele land gaan vanaf 3 februari actievoeren, melden vakbonden FNV Zorg & Welzijn, CNV en FBZ. Zij hebben hun leden en de werkgevers hierover woensdag geïnformeerd. De acties die gepland staan, zijn zogenoemde stiptheidsacties en actiebijeenkomsten.
4 uur geleden
UTRECHT (ANP) - De beveiliging van het gebied rond de Utrechtse Visscherssteeg, waar donderdag een of meerdere explosies waren, is opnieuw verlengd. Tot zeker maandag is beveiliging aanwezig in en rond de straat in de binnenstad, meldt de gemeente. Eerder was aangekondigd dat het gebied tot zeker vrijdag zou worden beveiligd.
6 uur geleden
DORDRECHT (ANP) - Het Openbaar Ministerie heeft woensdag bij de rechtbank in Dordrecht tien jaar cel en tbs met dwangverpleging geëist tegen de 52-jarige Eric van K. uit Ter Aar voor het jarenlang en vele malen online misbruiken van zeer jonge Filipijnse meisjes. Volgens het OM heeft de verdachte zich schuldig gemaakt aan "jarenlang seksueel kindermisbruik van de zwaarste categorie".
6 uur geleden
DEN HAAG (ANP) - Prinses Amalia gaat volgende maand met haar ouders mee naar de Olympische Winterspelen in Italië. De prinses van Oranje vergezelt koning Willem-Alexander en koningin Máxima op 6 februari bij de openingsceremonie en op 7 februari brengt zij met haar ouders een bezoek aan het Olympisch Dorp. Het koningspaar zelf gaat van 5 tot en met 10 februari naar de Spelen.
8 uur geleden