'Algoritmes Rotterdam kunnen leiden tot vooringenomen uitkomsten'
ROTTERDAM (ANP) - Het gebruik van algoritmes bij de gemeente Rotterdam kan leiden tot bevooroordeelde uitkomsten, zoals bij een algoritme gericht op de bestrijding van uitkeringsfraude. Dat meldt de Rekenkamer Rotterdam op basis van het rapport Gekleurde technologie.
Een algoritme is een reeks van regels en instructies die een computer geautomatiseerd volgt om tot een oplossing of een besluit te komen. De gemeente Rotterdam maakt daar ter ondersteuning van haar besluitvorming gebruik van. Hoewel er binnen de gemeente aandacht is voor het ethisch gebruik van algoritmes, is het besef van de noodzaak hiervan nog niet heel wijdverbreid, stelt de rekenkamer.
Een voorbeeld van een algoritme dat de gemeente gebruikt, is een algoritme dat mogelijke onrechtmatige uitkeringen in kaart brengt. Op basis daarvan kunnen uitkeringsgerechtigden voor een heronderzoek worden uitgenodigd.
Volgens de rekenkamer is de verantwoordelijkheid voor dat algoritme niet goed georganiseerd. Zo is "niet navolgbaar welke keuzes rondom ethische vraagstukken zijn gemaakt en is het voor de betrokken burger onmogelijk goed zicht te krijgen hoe het algoritme een rol speelt bij de uitnodiging voor een heronderzoek". Daarnaast is er een kans dat het algoritme, bijvoorbeeld door het meewegen van laaggeletterdheid, tot vooringenomen uitkomsten leidt. Hiertegen zijn onvoldoende maatregelen genomen.
Verder is er nog geen volledig overzicht van het gebruik en de aard van algoritmes, waardoor ook niet duidelijk is welke maatregelen genomen zouden moeten worden om de ethische risico's te beheersen. Ten slotte zijn er geen richtlijnen voor de evaluatie van algoritmes. Zo wordt niet geëvalueerd of een algoritme daadwerkelijk beter presteert dan "oudere en meer traditionele werkwijzen".
De rekenkamer heeft aan het college van burgemeester en wethouders zes aanbevelingen gedaan om de verantwoordelijkheid, transparantie en eerlijkheid van bestaande en toekomstige algoritmes te waarborgen. Het college heeft al deze aanbevelingen overgenomen.
Meer uit Binnenland
DEN HAAG (ANP) - Massadonor Simon heeft afspraken gemaakt met de Stichting Donorkind over het doneren van zijn sperma. De stichting meldt dat Simon een contract heeft getekend waarin staat dat hij geen zaad meer mag doneren en ook niet aan nieuwe wensouders mag laten weten dat hij dat zou willen. Ook moet de donor het zaad dat nog bij klinieken ligt opgeslagen laten vernietigen.
3 uur geleden
DE BILT (ANP) - De eerste officiële vorst van het najaar is een feit, meldt Weeronline. In De Bilt zakte de temperatuur zaterdagochtend vroeg naar -1,4 graden. Lokaal werd in de nacht van donderdag op vrijdag al de eerste vorst gemeten. Dat gebeurde in het zuiden van het land, op plekken in Brabant, Limburg en delen van Zeeland.
7 uur geleden
GROU (ANP) - De A32 ter hoogte van het Friese Grou is vrijdagavond even voor middernacht in beide richtingen heropend. De weg ging donderdagavond dicht door een gevaarlijke situatie bij het Aquaduct Mid-Fryslân. De glasplaten van de lampen boven het wegdek konden naar beneden vallen. De werkzaamheden zijn sneller dan verwacht afgerond. Eerder vrijdagavond ging de weg in één rijrichting alweer open.
12 uur geleden
DEN HAAG (ANP) - Het kabinet wil dat kinderen niet meer automatisch alleen de achternaam van hun vader krijgen, als de ouders het niet eens worden over de naam. Een aangenomen motie van die strekking van PRO en D66 is vertaald in een wetsvoorstel dat in januari in consultatie gaat. Belanghebbenden krijgen dan de gelegenheid hun mening te geven voor het wetsvoorstel wordt ingediend.
15 uur geleden
AMSTERDAM (ANP) - De politie heeft vrijdag naar schatting tussen de 150 en 200 demonstranten aangehouden bij de bouwplaats van een datacentrum van Microsoft aan de Plimsollweg in Amsterdam-West. Ze worden verdacht van huisvredebreuk, meldt de politie.
19 uur geleden
DEN HAAG (ANP) - Hackers gebruiken AI om hun cyberaanvallen sneller, groter en efficiënter te maken. Daarvoor waarschuwt antiterrorismecoördinator NCTV. Marc Kuipers, hoofd van de organisatie, zegt dat bestuurders snel de bescherming op orde moeten brengen. "Door AI komt cyberdreiging in een stroomversnelling en we moeten nu actie ondernemen."
22 uur geleden
DEN HAAG (ANP) - Het is volgens premier Rob Jetten "niet passend" als hij bij de Rode Lijn-demonstratie zondag tegen het voortdurende geweld in Gaza aanwezig zou zijn. Dat zei hij vrijdag op zijn wekelijkse persconferentie. Toen hij vorig jaar nog in de oppositie zat, was hij wel bij een Rode Lijn-protest aanwezig.
22 uur geleden