Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De Amerikaanse president Donald Trump sprak niet de waarheid en was "niet respectvol" toen hij beweerde dat troepen uit andere NAVO-landen in Afghanistan wegbleven van de frontlinie. Dat heeft demissionair minister David van Weel (Buitenlandse Zaken) gezegd na afloop van de ministerraad.
30 minuten geleden
DEN HAAG (ANP) - Prinses Amalia heeft donderdag de Algemene Militaire Opleiding (AMO) afgerond. Zij is nu bevorderd tot korporaal, meldt de Rijksvoorlichtingsdienst vrijdag. Daarom draagt zij in de toekomst een militair uniform wanneer ze aan het werk is voor Defensie.
2 uur geleden
UTRECHT (ANP) - ME'ers kregen donderdagavond te maken met fors geweld van KRC Genk-supporters voorafgaand aan de voetbalwedstrijd tegen FC Utrecht. Dit is te lezen in een reactie van de Utrechtse driehoek (politie, justitie en burgemeester). KRC Genk sprak vrijdagochtend in een verklaring van buitensporig politioneel geweld. De driehoek stelt dat geweld nodig was om het forse geweld van de uitsupporters te beteugelen.
3 uur geleden
DEN HAAG (ANP) - Het Openbaar Ministerie vervolgt een oud-medewerker voor het bezit van kinderporno en harddrugs. Bij de 51-jarige man uit Doetinchem zijn 46.000 afbeeldingen en 450 video's met kinderporno aangetroffen. Ook had de man 150 milliliter GHB in bezit.
3 uur geleden
DEN HOORN (ANP) - Een 16-jarige jongen uit Delft is donderdagavond om het leven gebracht in het nabijgelegen Den Hoorn. In de nacht van donderdag op vrijdag werd een 18-jarige man uit het Zuid-Hollandse Rijswijk aangehouden.
4 uur geleden
DEN HAAG (ANP) - Prins Bernhard en prinses Annette gaan scheiden na 25 jaar huwelijk. Dat doen ze "in goed overleg en met wederzijds respect", meldt het paar via de Rijksvoorlichtingsdienst. "We blijven samen de zorg dragen voor onze drie kinderen. Desondanks blijft het een moeilijke stap. We doen daarom een beroep op ieders begrip en respect voor onze privacy." Ze ondertekenen met Bernhard van Oranje en Annette Sekrève.
4 uur geleden
DEN HAAG (ANP) - Na een paar proeven gaat het Hoogheemraadschap van Delfland nu op grote schaal Amerikaanse rivierkreeften in het water vangen. Op 170 locaties, verspreid over het werkgebied van Delfland in de provincie Zuid-Holland, wil het waterschap de explosief gegroeide populatie rivierkreeften fors terugdringen. Het wegvangen van de diertjes in 59 kilometer aan water kost zeker 20 miljoen euro.
5 uur geleden