Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
AMSTERDAM (ANP) - Het is slecht gesteld met de arbeidsomstandigheden van sekswerkers. De overheid controleert nauwelijks, handhaving ontbreekt structureel. Dat stelt het Sekswerk Meld- en Adviespunt (SMAP) in een rapport. Bij het meldpunt komen veel klachten binnen over exploitanten.
3 uur geleden
HILVERSUM (ANP) - Aanbevelingsalgoritmes van sociale media bedreigen de democratie, maar zijn wel te verbeteren. Tot deze conclusie komt het Commissariaat voor de Media (CvdM) op basis van een analyse van de gevolgen van feeds voor de vrije meningsvorming van consumenten. De mediawaakhond biedt het kabinet en toezichthouders daarom aanbevelingen voor wetgeving en naleving.
3 uur geleden
DEN BOSCH (ANP) - Aan de gemeenteraad van Den Bosch is maandag een petitie overhandigd met het verzoek de vijftig jonge asielzoekers die de gemeente wil opvangen, gastvrij te ontvangen. De petitie is zo'n achthonderd keer ondertekend. Volgens de indieners vooral door inwoners van het dorp Engelen, waar de opvang is gepland.
12 uur geleden
AMSTERDAM (ANP) - De mobiele eenheid heeft maandagavond ingegrepen bij een pro-Palestijns protest bij de Vrije Universiteit (VU) in Amsterdam, laat een woordvoerder van de politie weten. Actievoerders bezetten daar verschillende delen van de universiteit. Volgens de politiewoordvoerder ging het om tientallen demonstranten, van wie er 22 zijn aangehouden. De VU zegt aangifte te hebben gedaan van lokaalvredebreuk.
12 uur geleden
DEN HAAG (ANP) - Drie Nederlandse opvarenden van de burgervloot Global Sumud Flotilla zijn maandag door Israël van de afzonderlijke boten gehaald waarmee ze met hulpgoederen naar Gaza wilden varen. Daarmee zijn nu nog drie Nederlanders onderweg op een boot die nog niet is onderschept, laat een van de opvarenden weten.
14 uur geleden
ROTTERDAM (ANP) - De bemanning van het Nederlandse cruiseschip Hondius gaat de komende uren in kleine groepjes van boord. Volgens een woordvoerster van de GGD Rotterdam-Rijnmond zijn ze nu nog op het schip, dat maandagochtend aanmeerde in de haven van Rotterdam.
17 uur geleden
ROTTERDAM (ANP) - Een groep techkenners heeft in de rechtbank het belang van transparantie benadrukt bij de besluitvorming rond de beoogde overname van Solvinity, het bedrijf dat ervoor zorgt dat DigiD kan draaien. "De beoordeling van het grote publieke belang dat is gemoeid met deze zaak, past niet in een achterkamertje van het ministerie van Economische Zaken", zei een advocaat namens de groep journalisten, techexperts en wetenschappers die via de rechter proberen de overname van Solvinity door een Amerikaans bedrijf tegen te houden.
17 uur geleden