Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
TER APEL (ANP) - Het Rode Kruis gaat vijf tenten neerzetten voor het aanmeldcentrum in Ter Apel. De tenten zijn bedoeld als beschutting tegen de zon, niet om onder te slapen, zegt een woordvoerder. "Het gaat om open tenten." Naar verwachting worden de tenten rond 14.00 uur geplaatst.
11 minuten geleden
ROTTERDAM (ANP) - De oud-burgemeester van Hendrik-Ido-Ambacht Herman J., die vastzit voor het bezit van kinderporno, wordt door het Openbaar Ministerie ook beschuldigd van ontucht. Hij wordt ervan verdacht dat hij tussen 2005 en 2016 een jonge man zou hebben gedwongen tot ontucht. Het slachtoffer was veel jonger.
1 uur geleden
AMSTERDAM (ANP) - De man die donderdagmiddag in zijn rolstoel bij een ongeluk op een treinstation overleed, werd door een aanzuigende werking van een passerende trein richting het spoor getrokken. De politie bevestigt berichtgeving hierover door Het Parool.
1 uur geleden
DEN HAAG (ANP) - Twee mannen zijn gearresteerd omdat ze Rusland zouden hebben geholpen met het uitvoeren van cyberaanvallen en het verspreiden van desinformatie. Daarmee hebben ze Europese sancties tegen Rusland omzeild, denkt de fiscale recherche FIOD. Datacentra bij Schiphol en in Dronten zijn doorzocht. Daarbij zijn meer dan achthonderd servers in beslag genomen.
1 uur geleden
TER APEL (ANP) - Het Rode Kruis maakt zich zorgen over het welzijn van de asielzoekers die buiten bij het aanmeldcentrum in Ter Apel wachten. De komende dagen loopt de temperatuur op tot boven de 25 graden. Op het terrein voor de opvanglocatie is nauwelijks schaduw.
2 uur geleden
TER APEL (ANP) - Het Centraal Orgaan opvang asielzoekers (COA) heeft nog geen oplossing voor het geval er ook vrijdagavond niet voor alle asielzoekers bij het aanmeldcentrum in Ter Apel plek is. Daarover is momenteel nog niets afgesproken, laat een woordvoerder weten. Pas aan het einde van de dag wordt duidelijk voor hoeveel mensen er eventueel elders opvang geregeld moet worden.
2 uur geleden
TER APEL (ANP) - Een groep asielzoekers is vrijdagochtend weer aangekomen bij het aanmeldcentrum in Ter Apel nadat zij de nacht hadden doorgebracht in een sporthal in Gieten. Het gaat volgens het Rode Kruis om zo'n honderd mensen.
5 uur geleden