Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De Tweede Kamer wil weten wat het kabinet gaat doen om beïnvloeding door buitenlandse actoren op sociale media tegen te gaan. Niet alle partijen zien hetzelfde gevaar, maar een ruime meerderheid van de Kamer wil wel dat er meer gebeurt om de mogelijkheden tot beïnvloeding te verkleinen.
52 minuten geleden
AMSTERDAM (ANP) - De volledige raad van toezicht van Milieudefensie is opgestapt. De toezichthouders van de milieuorganisatie wisten al sinds 2015 dat oud-directeur Donald Pols vroeger actief was bij een extreemrechtse Zuid-Afrikaanse studentenbeweging, maar deden daar niets mee. Dat leidde tot "veel onrust" en "een gebrek aan vertrouwen", laten de leden van de raad donderdag weten. Ze willen met hun vertrek de rust helpen herstellen.
1 uur geleden
LUXEMBURG (ANP) - Nederland heeft zich aangesloten bij het verzoek van Zweden om Russische toeristen te weren uit de EU. Dat "verzoek is terecht", zei minister Bart van den Brink (Migratie, CDA) donderdag in Luxemburg.
2 uur geleden
VEENENDAAL (ANP) - Er is een cultuurverandering nodig waarbij vrouwen als gelijkwaardig worden gezien aan mannen en waarin dit in alles wordt uitgedragen. Dat zegt Michelle Rasch, data-analist onlinecriminaliteit en geweld tegen vrouwen, naar aanleiding van het seksueel misbruik van gedrogeerde vrouwen en het uitwisselen van beeldmateriaal daarvan. Donderdag werd bekend dat daar na een groot onderzoek van de politie meerdere aanhoudingen voor zijn verricht.
2 uur geleden
LUXEMBURG (ANP) - Minister Bart van den Brink (Migratie, CDA) kijkt uit naar de start van het Europese asiel- en migratiepact. "Dat draagt echt bij aan meer grip op migratie", zei hij donderdag in Luxemburg. Maar de grootste opgave is om buiten Europa maatregelen te treffen om te voorkomen dat mensen naar de EU komen, zei de minister na afloop van de vergadering van EU-ministers van Migratie.
3 uur geleden
AMSTERDAM (ANP) - Het gerechtshof heeft donderdag een 23-jarige Amsterdammer veroordeeld tot een jaar gevangenisstraf, waarvan drie maanden voorwaardelijk, voor de gewelddadige beroving van ex-autocoureur Robert Doornbos. Dat gebeurde op 18 maart 2023 in Amsterdam-Buitenveldert.
3 uur geleden
GIETEN (ANP) - De Drentse gemeente Aa en Hunze, waar Gieten onderdeel van is, vangt de komende nachten opnieuw asielzoekers op, afkomstig van aanmeldcentrum Ter Apel. Dat meldt de gemeente op haar website. De opvang gebeurt in sporthal De Goorns in Gieten. De gemeente doet dat op nadrukkelijk verzoek van minister Bart van den Brink van Asiel en Migratie. "De groep komt laat in de avond aan en vertrekt voor 7 uur 's ochtends naar het aanmeldcentrum in Ter Apel."
6 uur geleden