Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
EINDHOVEN (ANP) - In een restaurant aan de Kruisstraat in Eindhoven is brand uitgebroken nadat vermoedelijk zwaar vuurwerk naar binnen was gegooid. Dat meldt de politie op X. Het vuurwerk veroorzaakte een explosie. Er is niemand gewond geraakt.
3 uur geledenDEN HAAG (ANP) - Vanuit meerdere plekken in het land melden mensen via sociale media dat ze zondagavond rond 19.00 uur een soort vuurbol hebben gezien in de lucht. Waarschijnlijk gaat het om een meteoor, zegt meteoroloog Wouter van Bernebeek, ofwel een stukje ruimtepuin dat in de dampkring verbrandt en daarmee een geel lichtspoor achterlaat aan de hemel.
9 uur geledenDEN HAAG (ANP) - Een groep Nederlanders die in Oman was gestrand, reist maandag door naar Schiphol vanaf de luchthaven van Hurghada in Egypte. Het gaat om de Nederlanders die eerst in de Omaanse hoofdstad Muscat worden opgehaald met een militair vliegtuig van Defensie. Zij worden door Defensie naar Hurghada gebracht en vliegen vanaf daar door naar Amsterdam, meldt het ministerie van Buitenlandse Zaken.
11 uur geledenUTRECHT (ANP) - Het treinverkeer tussen Den Bosch en Tilburg ligt tot zeker dinsdagochtend stil nadat eerder dit weekend een werktrein ontspoorde bij Vught. Eerder was de verwachting dat er maandagochtend weer treinen konden rijden op het traject, maar die prognose is bijgesteld, meldt een woordvoerder van ProRail. Het treinverkeer tussen beide Brabantse steden ligt sinds zaterdagochtend vroeg stil.
13 uur geledenMAARSSEN (ANP) - Door een ongeluk op de Zuilense Ring (N230) bij Maarssen zijn zondagmiddag zeven mensen gewond geraakt, meldt een woordvoerder van de politie. Onder hen zijn enkele kinderen. Bij het ongeval waren twee voertuigen betrokken. De politiewoordvoerder spreekt van een zwaar ongeval.
13 uur geledenBARDUFOSS (ANP) - Nederlandse militairen spelen de komende dagen na hoe ze binnengevallen Russische troepen uit Noorwegen kunnen verjagen. Commandant George Pastoor noemt het geen oefening meer, maar een "repetitie".
14 uur geledenAMSTERDAM (ANP) - Volgens de organisatie hebben zondag zo'n 15.000 mensen meegelopen met de Feminist March in Amsterdam. Er werd stilgestaan bij oorlogsgeweld en de invloed die dat heeft op vrouwen. Iliriana Banjska sprak eerder op de dag namens de organisatie van "superweer en een goede opkomst tot nu toe".
17 uur geleden