Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
ALMERE (ANP) - Gemeenteraadsleden uit Almere zijn geschokt door de verdenking tegen hun 66-jarige oud-collega Jan B. Maandagochtend werd bekend dat hij ervan wordt verdacht twee kinderen, van 2 en 13 jaar, onzedelijk te hebben betast. Het 2-jarige kind zou hij hebben betast op de eerste dag dat hij als invalkracht op een Amsterdams kinderdagverblijf werkte.
1 uur geleden
ALMERE (ANP) - De 66-jarige verdachte van het onzedelijk betasten van twee kinderen was van 2022 tot februari 2025 gemeenteraadslid voor 50PLUS in Almere. Dat bevestigen ingewijden. Eerder, van 2006 tot 2010, was hij daar raadslid voor de SP.
2 uur geleden
ANTWERPEN (ANP) - De Nederlandse sterrenchef Nick Bril had te veel alcohol in zijn bloed toen hij hulpkok Joe Claridge overreed. Uit deskundige berekeningen op verzoek van de rechtbank van Antwerpen blijkt dat hij tussen 1,52 en 1,91 promille alcohol in zijn bloed had. Dat meldt persbureau Belga maandag in een verslag van de rechtszaak. De wettelijk toegestane limiet is 0,5 promille. De advocaten van Bril blijven erbij dat hij niet dronken was.
2 uur geleden
DEN HAAG (ANP) - Het ministerie van Buitenlandse Zaken heeft het reisadvies voor Saudi-Arabië aangescherpt naar oranje. Iran heeft het land meermaals bestookt met raketten en drones, nadat het zelf werd aangevallen door de Verenigde Staten en Israël.
3 uur geleden
DOHA (ANP) - De Nederlandse ambassades in Qatar en de Verenigde Arabische Emiraten (VAE) hebben Nederlanders opgeroepen om binnen te blijven en de aanwijzingen van de lokale autoriteiten op te volgen. Iran bestookt de landen met raketten en drones, nadat de Verenigde Staten en Israël de aanval hadden geopend.
3 uur geleden
DEN HAAG (ANP) - Bij Nederlandse alarmcentrales zijn sinds afgelopen weekend honderden meldingen binnengekomen naar aanleiding van de onrust in het Midden-Oosten. Het gaat onder meer om meldingen van Nederlanders die zijn gestrand in het gebied.
4 uur geleden
AMSTERDAM (ANP) - Een 66-jarige invalkracht op een kinderdagverblijf in Amsterdam wordt ervan verdacht twee kinderen onzedelijk te hebben betast. Daarnaast vervolgt het Openbaar Ministerie de verdachte uit Almere voor het maken van kinderporno waarbij nog twee andere kinderen betrokken zijn.
4 uur geleden