Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN BOSCH (ANP) - Het treinverkeer rond Den Bosch wordt zaterdagochtend hervat. Eerder was er geen treinverkeer mogelijk tussen Den Bosch en Tilburg en Den Bosch en Boxtel vanwege een spoorverzakking bij Vught.
1 uur geleden
VLISSINGEN (ANP) - In Vlissingen is een politieactie om hulp te bieden bij een persoon met "onbegrepen gedrag" vrijdagavond geëindigd met een aanhouding waarbij een schot is gelost, meldt de politie Zeeland. Tijdens de actie in de Kasteelstraat raakte een diensthond gewond.
4 uur geleden
NIJKERK (ANP) - Bij het Israëlcentrum in het Gelderse Nijkerk heeft vrijdagavond laat een explosie plaatsgevonden. Het centrum van de organisatie Christenen voor Israël beschrijft het pand op zijn website als 'een ontmoetingsplek voor christenen met hart voor Israël'.
4 uur geleden
MAASTRICHT (ANP) - De twintig actievoerders die zijn opgepakt voor de bezetting van een gebouw van de Universiteit Maastricht zijn vrijdag vrijgelaten, maar blijven wel verdachte. Dat laat de politie weten.
11 uur geleden
RIGA/AMSTERDAM (ANP) - Een van de mannen die is veroordeeld voor betrokkenheid bij de ontvoering van het destijds 2-jarige meisje Insiya is vorige week in Letland gearresteerd, bevestigt het Openbaar Ministerie (OM) na berichtgeving door De Telegraaf. Donderdag is hij overgeleverd aan Nederland.
16 uur geleden
ROTTERDAM (ANP) - De advocaat van de 25-jarige Sendric S., verdacht van het plegen van drie moorden in Rotterdam-IJsselmonde, wil dat de rechtbank zijn cliënt alleen tbs met dwangverpleging oplegt en geen gevangenisstraf.
16 uur geleden
TER APEL (ANP) - De oproep van asielminister Bart van den Brink (CDA) aan gemeenten om snel bij te springen met noodopvang, lijkt zijn vruchten te hebben afgeworpen. De drukte bij het aanmeldcentrum voor asielzoekers in Ter Apel is afgenomen tot onder het maximum van 2000 en de winteropvang in Biddinghuizen komt zoals afgesproken vrijdag leeg, meldt het COA.
16 uur geleden