Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De energiemaatregelen van het kabinet doen nauwelijks iets aan het verminderen van de afhankelijkheid van olie en gas, vindt Milieudefensie. "Als dit het is, dan blijft het kabinet water naar de zee dragen", zegt directeur Donald Pols. Volgens Natuur & Milieu biedt het pakket voor de langere termijn "nog weinig houvast voor echte verduurzaming en afbouw van fossiele brandstoffen".
1 uur geleden
BLERICK (ANP) - Een meisje is maandagochtend omgekomen door een steekincident in een woning aan de Elzenstraat in het Limburgse Blerick, meldt de politie. Een man en vrouw, de bewoners van het pand, zijn opgepakt.
5 uur geleden
BILTHOVEN (ANP) - Het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) oppert een verbod op de filters van sigaretten. Volgens het instituut komen er dan minder zogeheten microplastics in het milieu, terwijl het geen verschil zou maken voor de gezondheid van rokers.
7 uur geleden
AMSTERDAM (ANP) - Privacystichting Consumers United in Court (CUIC) is maandag een collectieve procedure gestart tegen Odido. Dit vanwege een recent lek waarbij data van ruim zes miljoen Nederlanders zijn buitgemaakt. Het consumentencollectief noemt Odido op meerdere punten nalatig en wil onder meer genoegdoening voor iedereen van wie gegevens nu op straat liggen.
7 uur geleden
ALKMAAR (ANP) - De spelers van AZ zijn zondagavond laat uitbundig bejubeld door een grote menigte supporters. Iets voor middernacht verscheen de AZ-selectie, die eerder op de dag de bekerfinale met 5-1 van NEC won, op het bordes van het AFAS Stadion in Alkmaar. De uitzinnige fans, uitgedost met vlaggen en sjaaltjes van AZ, dansten, zongen en juichten onder dat balkon, omringd door de rook van enorme hoeveelheden afgestoken vuurwerk en brandende fakkels, zo was te zien op een livestream van NH Nieuws.
14 uur geleden
ROTTERDAM (ANP) - Een container die zondagavond verkeerd is neergezet op een schip op de Maasvlakte bij Rotterdam, lekt een giftige, bijtende stof. Het schip zelf heeft ook schade opgelopen, vertelt een woordvoerster van de veiligheidsregio. "Er is een gat ontstaan in het dek, boven de machinekamer. De stof lekt daar naar binnen", schetst ze de situatie.
16 uur geleden
ROTTERDAM (ANP) - In het Rotterdamse havengebied is een container waarin mogelijk gevaarlijke stoffen zitten uit een kraan gevallen en op een schip terechtgekomen. Hulpdiensten zijn ter plaatse op de Maasvlakte, laat de veiligheidsregio weten. Die heeft een crisisteam bijeengeroepen.
18 uur geleden