Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ROERMOND (ANP) - De politie heeft een foto vrijgegeven van Daniel B. De Duits-Poolse man zit vast voor het doden van de 66-jarige Paul Vossen in het Limburgse Herkenbosch. Politie en justitie vermoeden dat hij ook betrokken is bij de vermissing van zijn moeder. Met het vrijgeven van zijn foto hopen ze dat mensen zich melden met meer informatie over wat er met haar is gebeurd.
9 uur geleden
DEN HAAG (ANP) - De overheid heeft een pauze ingevoerd in het maken van beslissingen over asielaanvragen van Iraniërs. Dat zegt een woordvoerder van het ministerie van Justitie en Veiligheid. Het stilleggen van besluiten betekent dat Iraanse vluchtelingen niet gedwongen worden teruggestuurd naar Iran.
9 uur geleden
DEN HAAG (ANP) - Het reisadvies voor Cyprus is geel geworden. Daarmee maakt het Nederlandse ministerie van Buitenlandse Zaken duidelijk dat er risico's zijn voor mensen die naar het land afreizen.
11 uur geleden
DEN HAAG (ANP) - Advocaten mogen weer een laptop en een mobiele telefoon meenemen als ze cliënten in de gevangenis opzoeken. Dat meldt de Nederlandse Orde van Advocaten (NOvA) na overleg met de Dienst Justitiële Inrichtingen (DJI). Het nieuwe toegangsbeleid treedt naar verwachting na de zomer in werking.
13 uur geleden
ALMERE (ANP) - Gemeenteraadsleden uit Almere zijn geschokt door de verdenking tegen hun 66-jarige oud-collega Jan B. Maandagochtend werd bekend dat hij ervan wordt verdacht twee kinderen, van 2 en 13 jaar, onzedelijk te hebben betast. Het 2-jarige kind zou hij hebben betast op de eerste dag dat hij als invalkracht op een Amsterdams kinderdagverblijf werkte.
16 uur geleden
ALMERE (ANP) - De 66-jarige verdachte van het onzedelijk betasten van twee kinderen was van 2022 tot februari 2025 gemeenteraadslid voor 50PLUS in Almere. Dat bevestigen ingewijden. Eerder, van 2006 tot 2010, was hij daar raadslid voor de SP.
17 uur geleden
ANTWERPEN (ANP) - De Nederlandse sterrenchef Nick Bril had te veel alcohol in zijn bloed toen hij hulpkok Joe Claridge overreed. Uit deskundige berekeningen op verzoek van de rechtbank van Antwerpen blijkt dat hij tussen 1,52 en 1,91 promille alcohol in zijn bloed had. Dat meldt persbureau Belga maandag in een verslag van de rechtszaak. De wettelijk toegestane limiet is 0,5 promille. De advocaten van Bril blijven erbij dat hij niet dronken was.
17 uur geleden