Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Vorig jaar zijn in Nederland 759 mensen om het leven gekomen in het verkeer, 84 meer dan een jaar eerder. Dat meldt het Centraal Bureau voor de Statistiek (CBS). Vooral het aantal mannelijke verkeersslachtoffers nam toe, terwijl het aantal vrouwelijke doden daalde. Fietsers vormden opnieuw de grootste groep slachtoffers, gevolgd door inzittenden van personenauto's.
2 uur geleden
DEN HAAG (ANP) - Als gemeenten scanauto's laten rondrijden om te controleren of autobezitters hebben betaald voor een parkeerplek leidt dat tot veel onterecht opgelegde parkeerboetes. De Autoriteit Persoonsgegevens (AP) schat na onderzoek dat meer dan 10 procent van de bekeuringen niet klopt. Dat zou neerkomen op ongeveer een half miljoen boetes per jaar, aldus de privacytoezichthouder.
3 uur geleden
EINDHOVEN (ANP) - Ondanks het vuurwerkverbod dat gold rond de huldiging van PSV in Eindhoven hebben dinsdag 93 mensen brandwonden opgelopen door fakkels die werden afgestoken. Dit meldt de gemeente woensdag. Volgens de gemeente gaat het om (lichte) eerstegraads brandwonden. Niemand hoefde naar het ziekenhuis.
14 uur geleden
DEN HAAG (ANP) - De Amerikaanse rapper Ye krijgt vooralsnog geen inreisverbod opgelegd, meldt minister Bart van den Brink (Asiel en Migratie, CDA). Organisaties als het Centraal Joods Overleg hadden hiertoe opgeroepen, nadat het Verenigd Koninkrijk de artiest de toegang had ontzegd voor zijn komst naar een festival in Londen. Door antisemitische uitingen staat de rapper ter discussie.
17 uur geleden
AMSTERDAM (ANP) - De 40-jarige bankmedewerkster die op 26 maart dood werd gevonden in een woning aan de Koninginneweg in Amsterdam-Zuid, is waarschijnlijk slachtoffer van een misdrijf.
17 uur geleden
UTRECHT (ANP) - De Europese Unie heeft sinds 2021 831 miljoen euro subsidie toegekend aan projecten in de provincie Utrecht. De provincie meldt dat niet eerder in een zesjarig Europees programma zo'n groot bedrag is toegewezen. Ook gaat het om bijna een verdubbeling in vergelijking met de vorige periode (2014-2020).
17 uur geleden
DEN HAAG (ANP) - De Autoriteit Persoonsgegevens heeft 'een aantal' datalekmeldingen ontvangen van klanten van softwareleverancier Chipsoft. Dat meldt een woordvoerder, die geen specifiek aantal noemt. "We verwachten dat het er meer zullen worden. De meldingen moeten officieel binnen 72 uur worden gedaan."
18 uur geleden