Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
NICOSIA (ANP) - Europa staat te veel aan de zijlijn bij de conflicten in het Midden-Oosten, zegt premier Rob Jetten voorafgaand aan de tweede dag van de informele EU-top op Cyprus. Later op de dag gaan de EU-leiders ook met onder meer leiders uit de golfregio, Libanon en Syrië in gesprek.
24 minuten geleden
DEN HAAG (ANP) - Het aantal regio's waar natuurbranden kunnen ontstaan, neemt snel toe. In Flevoland, Gooi en Vechtstreek, Twente en Noord- en Oost-Gelderland geldt nu ook het hoogste waarschuwingsniveau door de aanhoudende droogte. Deze fase 2 is afgekondigd door de brandweer.
2 uur geleden
WASHINGTON (ANP) - Een Amerikaanse militair van de speciale eenheden is donderdag opgepakt omdat hij zou hebben gewed op het vertrek van de Venezolaanse leider Nicolás Maduro, kort voordat diens gevangenneming bekend werd. Dat meldt het Amerikaanse ministerie van Justitie.
9 uur geleden
MAASTRICHT (ANP) - De twee verdachten die maandag werden opgepakt voor betrokkenheid bij het doodsteken van een meisje (14) in Blerick, zijn haar ouders. De moeder zou de dodelijke steekwonden hebben toegebracht. Het OM verdenkt haar van moord dan wel doodslag. De vrouw blijft veertien dagen langer vast.
16 uur geleden
UTRECHT (ANP) - Op het Nederlandse spoor vonden vorig jaar 586 ernstige verstoringen plaats, meldt ProRail in zijn jaarverslag. De spoorbeheerder waarschuwde in november al dat afspraken met het ministerie van Infrastructuur en Waterstaat wat betreft het aantal grote storingen in 2025 niet gehaald zouden worden.
19 uur geleden
ZWOLLE (ANP) - Vitens heeft steeds meer moeite om iedereen van drinkwater te voorzien. Terwijl Nederlanders afgelopen jaar gemiddeld iets minder drinkwater verbruikten, verwacht het grootste drinkwaterbedrijf van Nederland tekorten in de drinkwatervoorziening.
19 uur geleden
ZOETERMEER (ANP) - De Algemene Inlichtingen- en Veiligheidsdienst (AIVD) maakt zich zorgen over de toename van het aantal jongeren dat radicaliseert. "Ze radicaliseren online, vormen een terroristische dreiging vanwege hun jihadistische of rechts-terroristische denkbeelden, of worden ingezet door statelijke actoren", aldus AIVD-baas Simone Smit. De dienst presenteert donderdag het jaarverslag over 2025.
20 uur geleden