'Algoritmes Rotterdam kunnen leiden tot vooringenomen uitkomsten'
ROTTERDAM (ANP) - Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude. Dat meldt de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.
Een algoritme is een reeks van regels en instructies die een computer geautomatiseerd volgt om tot een oplossing of een besluit te komen. De gemeente Rotterdam maakt daar ter ondersteuning van haar besluitvorming gebruik van. Hoewel er binnen de gemeente aandacht is voor het ethisch gebruik van algoritmes, is het besef van de noodzaak hiervan nog niet heel wijdverbreid, stelt de rekenkamer.
Een voorbeeld van een algoritme dat de gemeente gebruikt, is een algoritme dat mogelijke onrechtmatige uitkeringen in kaart brengt. Op basis daarvan kunnen uitkeringsgerechtigden voor een heronderzoek worden uitgenodigd.
Volgens de rekenkamer is de verantwoordelijkheid voor dat algoritme niet goed georganiseerd. Zo is "niet navolgbaar welke keuzes rondom ethische vraagstukken zijn gemaakt en is het voor de betrokken burger onmogelijk goed zicht te krijgen hoe het algoritme een rol speelt bij de uitnodiging voor een heronderzoek". Daarnaast is er een kans dat het algoritme, bijvoorbeeld door het meewegen van laaggeletterdheid, tot vooringenomen uitkomsten leidt. Hiertegen zijn onvoldoende maatregelen genomen.
Verder is er nog geen volledig overzicht van het gebruik en de aard van algoritmes, waardoor ook niet duidelijk is welke maatregelen genomen zouden moeten worden om de ethische risico's te beheersen. Ten slotte zijn er geen richtlijnen voor de evaluatie van algoritmes. Zo wordt niet geëvalueerd of een algoritme daadwerkelijk beter presteert dan "oudere en meer traditionele werkwijzen".
De rekenkamer heeft aan het college van burgemeester en wethouders zes aanbevelingen gedaan om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Het college heeft al deze aanbevelingen overgenomen.
Meer uit Binnenland
DEN HAAG (ANP) - De rechtbank in Den Haag heeft een gevangenisstraf van zes jaar en tbs met dwangverpleging opgelegd aan Arie M. (26) voor het doodsteken van zijn oudere broer Peter (29). Dit gebeurde in hun ouderlijk huis in Gouda op 26 augustus vorig jaar. "De wijze waarop de verdachte het slachtoffer om het leven heeft gebracht, behoort qua geweld en gruwelijkheid tot een buitencategorie", aldus de rechtbank in het vonnis.
52 minuten geleden
OMMEN (ANP) - Het standbeeld van schaatser Reinier Paping in Ommen is in de nacht van woensdag op donderdag beschadigd. Het beeld is daarom van zijn plek gehaald en naar een opslag gebracht, laat de Overijsselse gemeente vrijdag weten. Paping won in 1963 de Elfstedentocht. Hij woonde toen in Ommen.
2 uur geleden
OUDDORP (ANP) - Bij de natuurbrand in de duinen bij het Zuid-Hollandse Ouddorp is een brandweerman zwaargewond geraakt, meldt de veiligheidsregio. Hij kwam onder een brandweervoertuig terecht. "Over zijn gezondheidstoestand maken we ons grote zorgen," aldus een woordvoerder.
2 uur geleden
MIDDELBURG (ANP) - Het Openbaar Ministerie heeft vrijdag negen jaar cel geëist tegen de 37-jarige Kevin de N. uit het Zeeuwse Breskens. Hij wordt verdacht van zeven verkrachtingen van zijn vriendin tussen 2021 en 2023. Hij zou haar zelf hebben verkracht en haar hebben laten verkrachten door vijf vrienden van hem. Tegen drie van hen eiste het OM drie jaar cel, waarvan één jaar voorwaardelijk.
2 uur geleden
DEN HAAG (ANP) - Tabaksfabrikant Philip Morris heeft de regels voor tabaksreclame overtreden, oordeelt de Reclame Code Commissie (RCC), de toezichthouder voor advertenties. Philip Morris had een flyer en een website laten maken waarop mensen hun mening over komende Europese tabaksregels konden laten doorgeven aan de Europese Commissie. Kunstmatige intelligentie (AI) schreef de teksten voor de gebruikers.
4 uur geleden
KAATSHEUVEL (ANP) - Vanaf 12 augustus rijdt op en bij pretpark de Efteling een zelfrijdende bus van Arriva, meldt de vervoerder. Zo'n bus rijdt zelfstandig. Er zit nog wel een zogeheten safety driver op de bestuurdersstoel die kan ingrijpen.
4 uur geleden
STEENDAM (ANP) - Een 58-jarige surfer uit Delfzijl is overleden na een aanvaring met een bootje op het Groningse Schildmeer, meldt de politie. De politie heeft de bestuurder van de boot, een 19-jarige man uit Eemsdelta, aangehouden en verhoord. Hij is weer op vrije voeten, maar blijft verdachte.
5 uur geleden