Nog meer indirecte discriminatie door algoritmes DUO dan gedacht
DEN HAAG (ANP) - Studenten met een migratieachtergrond zijn inderdaad indirect gediscrimineerd door de computersystemen van de Dienst Uitvoering Onderwijs (DUO), de organisatie die onder meer over de studiefinanciering gaat. En die discriminatie was waarschijnlijk nog groter dan gedacht. Dat komt naar voren uit een onderzoek in opdracht van de dienst.
De studenten werden twee keer zo vaak als frauderisico gezien als autochtone medestudenten. Ze werden bovendien ruim zes keer zo vaak uitgekozen voor een huisbezoek. De onderzoekers van bureau Algorithm Audit spreken van een "duidelijke structurele trend in de vooringenomenheid".
In maart bleek ook al dat de DUO studenten met een migratieachtergrond indirect had gediscrimineerd. Het huidige onderzoek heeft de controles van DUO vergeleken met gegevens van statistiekbureau CBS. Die data waren niet beschikbaar bij het eerste onderzoek. Met die gegevens erbij is "de vertekening nog sterker" dan in het eerste onderzoek, aldus Algorithm Audit. Met andere woorden: de indirecte discriminatie was nog groter dan gedacht.
Algoritme
Zelfs studenten zonder frauderisico werden extra gecontroleerd. Studenten met een migratieachtergrond met een "laag risico" kregen bijna twee keer zo vaak alsnog een onderzoek als autochtone studenten met dezelfde inschatting.
Doordat de studenten met een migratieachtergrond vaker werden gecontroleerd, werden daar ook meer problemen gevonden. Dat versterkte het algoritme, terwijl het helemaal niet zeker is dat er daadwerkelijk meer gesjoemeld werd dan bij autochtone studenten. Misschien sjoemelden autochtonen ook, maar dat kwam niet aan het licht door gebrek aan controle.
De term indirecte discriminatie betekent dat er niet iemand was die rechtstreeks besloot om de ene groep studenten anders te behandelen dan de andere groep, maar dat de systemen zo waren ingesteld dat de ene groep vaker werd gecontroleerd dan de andere groep. Zo keken de controleurs bijvoorbeeld hoe ver een student van zijn of haar ouders af woonde. Studenten met een migratieachtergrond blijven doorgaans dichter in de buurt van hun ouders wonen, en werden alleen al om die reden vaker gecontroleerd. Autochtone studenten wonen vaker in een studentenhuis, en dit was juist een criterium om minder vaak te gaan controleren.
Meer uit Binnenland
DEN HAAG (ANP) - De ongeveer 1700 politiemedewerkers die in interne systemen informatie hebben opgezocht over de dood van de 17-jarige Lisa uit Abcoude werkten in het hele land. "Er is informatie opgezocht in Amsterdam en in de omgeving van Lisa's woonplaats, maar ook in andere delen van het land", aldus een politiewoordvoerder.
3 minuten geleden
DEN HAAG (ANP) - De KLM vliegt dinsdagavond naar het Midden-Oosten om daar reizigers op te halen die zijn gestrand door de oorlog in Iran. Dat zei minister Tom Berendsen (Buitenlandse Zaken, CDA) in de Tweede Kamer. Hij zei niet naar welk land het vliegtuig gaat. In de regio zijn vermoedelijk duizenden Nederlanders gestrand.
5 minuten geleden
AMSTERDAM (ANP) - De rechtbank in Amsterdam heeft dinsdag een 26-jarige man vrijgesproken van het leveren van het wapen waarmee rapper Bigidagoe is doodgeschoten. De verdachte was op 18 februari al op vrije voeten gesteld, een dag na de inhoudelijke behandeling van de zaak. Het Openbaar Ministerie had tien jaar cel geëist. De rechtbank vindt dat er niet genoeg bewijs is voor een veroordeling.
20 minuten geleden
DEN HAAG (ANP) - De familie van de vermoorde 17-jarige Lisa vindt het "heel pijnlijk en moeilijk te bevatten" dat zo'n 1700 politiemedewerkers zonder goede reden in de interne systemen informatie hebben opgezocht over de gewelddadige dood van de jonge vrouw. Zij werd in augustus vermoord toen ze vanuit Amsterdam naar huis fietste.
21 minuten geleden
DEN HAAG (ANP) - De vrijspraak in een twintig jaar oude zaak over de moord op Tamara Wolvers in Alphen aan den Rijn dient voor advies te worden voorgelegd aan het Europees Hof voor de Rechten van de Mens (EHRM). Dat adviseerde procureur-generaal (PG) Edwin Bleichrodt dinsdag aan de Hoge Raad.
22 minuten geleden
DEN HAAG (ANP) - Ongeveer 1700 politiemedewerkers hebben in de interne systemen informatie opgezocht over de gewelddadige dood van de 17-jarige Lisa uit Abcoude, zonder goede reden. Justitieminister David van Weel (VVD) meldt dat de korpschef hem daarover heeft geïnformeerd na onderzoek van het Landelijk Team Interne Onderzoeken. "Ik vind het onacceptabel dat dit gebeurd is", aldus de bewindsman.
46 minuten geleden
DEN HAAG (ANP) - Nederlandse alarmcentrales blijven hulpvragen ontvangen van Nederlanders die gestrand zijn in het Midden-Oosten door de oorlog in Iran. Het aantal vragen over onder meer terugvluchten naar Nederland en extra verblijfskosten bij SOS International, Eurocross en de ANWB Alarmcentrale is verder gestegen.
2 uur geleden