'Algoritmes Rotterdam kunnen leiden tot vooringenomen uitkomsten'
ROTTERDAM (ANP) - Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude. Dat meldt de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.
Een algoritme is een reeks van regels en instructies die een computer geautomatiseerd volgt om tot een oplossing of een besluit te komen. De gemeente Rotterdam maakt daar ter ondersteuning van haar besluitvorming gebruik van. Hoewel er binnen de gemeente aandacht is voor het ethisch gebruik van algoritmes, is het besef van de noodzaak hiervan nog niet heel wijdverbreid, stelt de rekenkamer.
Een voorbeeld van een algoritme dat de gemeente gebruikt, is een algoritme dat mogelijke onrechtmatige uitkeringen in kaart brengt. Op basis daarvan kunnen uitkeringsgerechtigden voor een heronderzoek worden uitgenodigd.
Volgens de rekenkamer is de verantwoordelijkheid voor dat algoritme niet goed georganiseerd. Zo is "niet navolgbaar welke keuzes rondom ethische vraagstukken zijn gemaakt en is het voor de betrokken burger onmogelijk goed zicht te krijgen hoe het algoritme een rol speelt bij de uitnodiging voor een heronderzoek". Daarnaast is er een kans dat het algoritme, bijvoorbeeld door het meewegen van laaggeletterdheid, tot vooringenomen uitkomsten leidt. Hiertegen zijn onvoldoende maatregelen genomen.
Verder is er nog geen volledig overzicht van het gebruik en de aard van algoritmes, waardoor ook niet duidelijk is welke maatregelen genomen zouden moeten worden om de ethische risico's te beheersen. Ten slotte zijn er geen richtlijnen voor de evaluatie van algoritmes. Zo wordt niet geëvalueerd of een algoritme daadwerkelijk beter presteert dan "oudere en meer traditionele werkwijzen".
De rekenkamer heeft aan het college van burgemeester en wethouders zes aanbevelingen gedaan om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Het college heeft al deze aanbevelingen overgenomen.
Meer uit Binnenland
BUDEL (ANP) - De brandweer gaat bij het bestrijden van de natuurbrand bij Weert en Budel over op een andere tactiek. Er worden daar nu voor het eerst twee zogenoemde handcrews ingezet, meldt de brandweer. Dat zijn specialistische brandweerteams die met handgereedschap de brand tegengaan op plekken waar blusvoertuigen niet kunnen komen.
51 minuten geleden
OIRSCHOT (ANP) - In de buurt van Oirschot is zaterdagmiddag opnieuw vuur waargenomen in een natuurgebied waar eerder ook al brand heeft gewoed. Dat meldt de veiligheidsregio van Zuidoost-Brabant.
2 uur geleden
DEN HAAG/ATHENE (ANP) - De Nederlandse ambassade in Griekenland heeft consulaire bijstand verleend aan drie Nederlandse deelnemers aan de Global Sumud Flotilla, de burgervloot met hulpgoederen voor Gaza. Dat laat het ministerie van Buitenlandse Zaken weten.
3 uur geleden
AMSTERDAM (ANP) - De voormalige televisiepresentator en politicus Carlo Strijk is op 59-jarige leeftijd overleden. Dat laat Niels Jens Uitvaartzorg weten aan het ANP namens de familie. Strijk overleed afgelopen week in zijn slaap.
5 uur geleden
'T HARDE (ANP) - De brandweer heeft het sein brand meester gegeven voor de grote natuurbrand in 't Harde. Dat meldt de Veiligheidsregio Noord- en Oost-Gelderland.
9 uur geleden
HOUTEN (ANP) - Het warme en droge weer van de afgelopen dagen maakt in het weekend plaats voor fris en regenachtig lenteweer. Op zowel dodenherdenking als Bevrijdingsdag is het fris, met op maandag temperaturen tussen de 14 tot 16 graden. Op Bevrijdingsdag wordt het niet warmer dan 12 tot 16 graden.
9 uur geleden
WEERT (ANP) - De natuurbrand tussen Weert en Budel is nog steeds onder controle en is daarom afgeschaald. De brandweer is er nog wel bij, maar met minder eenheden, meldt de veiligheidsregio. Er kan nog worden ingegrepen als het nodig is.
17 uur geleden