Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - Drie Nederlandse opvarenden van de burgervloot Global Sumud Flotilla zijn maandag door Israël van de afzonderlijke boten gehaald waarmee ze met hulpgoederen naar Gaza wilden varen. Daarmee zijn nu nog drie Nederlanders onderweg op een boot die nog niet is onderschept, laat een van de opvarenden weten.
1 uur geleden
ROTTERDAM (ANP) - De bemanning van het Nederlandse cruiseschip Hondius gaat de komende uren in kleine groepjes van boord. Volgens een woordvoerster van de GGD Rotterdam-Rijnmond zijn ze nu nog op het schip, dat maandagochtend aanmeerde in de haven van Rotterdam.
4 uur geleden
ROTTERDAM (ANP) - Een groep techkenners heeft in de rechtbank het belang van transparantie benadrukt bij de besluitvorming rond de beoogde overname van Solvinity, het bedrijf dat ervoor zorgt dat DigiD kan draaien. "De beoordeling van het grote publieke belang dat is gemoeid met deze zaak, past niet in een achterkamertje van het ministerie van Economische Zaken", zei een advocaat namens de groep journalisten, techexperts en wetenschappers die via de rechter proberen de overname van Solvinity door een Amerikaans bedrijf tegen te houden.
4 uur geleden
DEN HAAG (ANP) - De Global Sumud Flotilla meldt dat de Nederlandse opvarenden Pieter Rambags en Jesse van Schaik door het Israëlische leger van hun afzonderlijke boten zijn gehaald. "We maken ons grote zorgen om hun gezondheid", zegt delegatiehoofd Marieke Stam. Verspreid over vijf schepen varen er zes Nederlanders mee, van wie er nog vier onderweg naar Gaza zouden zijn.
4 uur geleden
DEN HAAG (ANP) - De virtuele agent van de politie, chatbot Wout, is offline voor onderhoud na een melding over een "oneffenheid", meldt een woordvoerder van de politie. De onjuistheid bestond eruit dat de chatbot op vragen over aangifte van discriminatie tegen Palestijnen een antwoord gaf over antisemitisme. "Wout leert net als zijn collega's elke dag weer bij", aldus de woordvoerder. Hij noemt de chatbot een "geweldig instrument", waar "zeer regelmatig" nieuwe onderwerpen aan worden toegevoegd.
5 uur geleden
GRONINGEN (ANP) - Twee vrouwen uit Stadskanaal die hun kinderen zouden hebben mishandeld, zitten ook de komende dagen vast. De rechter-commissaris heeft dat maandag besloten. Ze zitten nog steeds in beperkingen, wat betekent dat ze alleen contact met hun advocaat mogen hebben.
6 uur geleden
UTRECHT (ANP) - Vrijwilligers van In je bol hebben in de eerste week van de eindexamens zo'n 120 gesprekken gevoerd met scholieren die kampen met prestatiedruk en stress. Dat meldt het jongerenplatform.
6 uur geleden