Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Er moet een nieuwe organisatie komen die toezicht houdt op onderzoeken naar (seksueel) grensoverschrijdend gedrag. Daarvoor pleit Mariëtte Hamer, regeringscommissaris seksueel grensoverschrijdend gedrag en seksueel geweld. Nu is het toezicht in handen van de politie en screeningsautoriteit Justis, maar zij hebben niet genoeg capaciteit en expertise, stelt Hamer.
25 minuten geleden
AMSTERDAM (ANP) - Bits of Freedom wil dat de overheid meer doet tegen apps waarmee vrouwen hun menstruatiecyclus bijhouden. Die apps schenden namelijk de rechten van gebruikers, zegt de privacyorganisatie. Die dient daarom bij de Autoriteit Persoonsgegevens een klacht in tegen een van zulke apps, Flo. Die wordt door meer dan 200.000 vrouwen in Nederland gebruikt.
53 minuten geleden
DEN HAAG (ANP) - De huidige landelijke bouwregels moeten "ingrijpend gemoderniseerd" worden om in de toekomst te kunnen bouwen, stellen gemeenten, provincies en Brandweer Nederland. Uit onderzoek van TNO blijkt dat de huidige regelgeving rond de bouw niet rijmt met "de maatschappelijke en technologische ontwikkelingen van deze tijd". Gezamenlijk roepen de organisaties het Rijk op de regelgeving te herzien.
1 uur geleden
DEN HAAG (ANP) - Het Pieterpad heeft vanaf donderdag een rolstoelvriendelijke variant. Het bekende wandelpad van ruim 500 kilometer is daarmee ook toegankelijk voor mensen met scootmobiels, rollators en kinderwagens. De rolstoelroute biedt ook toegang tot bospaadjes, heidevelden en heuvelachtig terrein voor rolstoelgebruikers met dikke profielbanden en elektrische ondersteuning.
2 uur geleden
HOUTEN (ANP) - Een groeiend aantal mensen zoekt hulp voor verslavingen aan online gokken en designerdrugs. Dat komt naar voren uit de jongste cijfers van het Landelijk Alcohol en Drugs Informatiesysteem (LADIS), dat trends in de verslavingszorg monitort.
2 uur geleden
HELLEVOETSLUIS (ANP) - Na een woningbrand aan de Kreeft in Hellevoetsluis zijn woensdagavond vier mensen met ambulances naar het ziekenhuis gebracht. Zij hadden veel rook ingeademd, meldt de Veiligheidsregio Rotterdam-Rijnmond.
6 uur geleden
DEN HAAG (ANP) - Toetsen in het basis- en voortgezet onderwijs moeten meer in het teken staan van het onderwijs en leren en minder van belang zijn voor zaken als toelating, overgang of diploma. Dat zegt de Onderwijsraad donderdag in een advies dat wordt gegeven op verzoek van de Tweede Kamer.
8 uur geleden