Overheid gebruikt zeker 120 AI-systemen, risico vaak onduidelijk
DEN HAAG (ANP) - Overheidsorganisaties gebruiken volgens de Algemene Rekenkamer zeker 120 systemen op basis van kunstmatige intelligentie (AI). In bijna de helft van de gevallen is voor zover bekend geen afweging gemaakt over de risico's van zulke systemen, aldus collegelid Ewout Irrgang.
Systemen met kunstmatige intelligentie zijn niet met de hand geprogrammeerd, maar hebben met hulp van grote hoeveelheden data geleerd om taken uit te voeren. Daar kunnen problemen aan kleven zoals privacyschendingen en discriminatie. "Je kunt de risico's alleen beheersen als je ze kent", zegt Irrgang.
Het overgrote deel van de overheidsorganisaties gebruikt niet meer dan drie AI-systemen. Uitschieters zijn uitkeringsinstantie UWV, dat er tien in gebruik heeft, en de politie, waar dat er 23 zijn. Het UWV gebruikt AI onder meer om te voorspellen wie er na afloop van een uitkering geen inkomsten heeft, en om op basis daarvan ondersteuning te bieden. Irrgang: "Als systemen impact hebben op burgers, heb je eerder risico's."
Privacyschendingen
In gevallen waar de risico's wel zijn ingeschat, vinden overheidsorganisaties meestal dat die minimaal zijn. Maar ook dan is er kans op bijvoorbeeld privacyschendingen, merkt de Rekenkamer op. Een kleiner deel van de projecten wordt als "hoog risico" ingeschat. Het is niet uit te sluiten dat er ook AI-systemen worden gebruikt die binnenkort volgens EU-regels verboden zijn.
Hoe het risico precies wordt bepaald, verschilt van geval tot geval. Het kabinet zegt in een reactie de samenhang te willen verbeteren, en dat vindt Rekenkamer-collegelid Irrgang "positief".
Nut vaak onduidelijk
Niet alleen het risico, maar ook het nut van AI is vaak onduidelijk. Bij 42 van de 120 systemen is niet bekend of ze de verwachtingen waarmaken. Van de rest presteert het overgrote deel wel zoals verwacht of beter.
Het is de eerste keer dat de Rekenkamer AI-systemen onderzoekt. De controleur vroeg zeventig overheidsorganisaties om hun AI-gebruik in kaart te brengen, zoals het ministerie van Financiën, de douane en de NPO. Het is mogelijk dat er overheidsmedewerkers zijn die "ad hoc" programma's als ChatGPT gebruiken, maar die zijn niet in het onderzoek meegenomen. Dat geldt ook voor AI-systemen voor bijvoorbeeld militaire doelen of inlichtingen.
Meer uit Politiek
DEN HAAG (ANP) - Een groot deel van de oppositiepartijen in de Tweede Kamer ziet nog geen reden om de begroting van het ministerie van Volksgezondheid, Welzijn en Sport te steunen. Partijen van links tot rechts gaven tijdens het debat erover aan de begroting niet goed genoeg te vinden.
2 uur geleden
DEN HAAG (ANP) - Het Openbaar Ministerie gaat geen strafrechtelijk onderzoek uitvoeren naar PVV-Kamerlid Marjolein Faber. Dat bevestigt het OM na berichtgeving van website Paternotte. Een Amsterdamse wijkagent deed in september aangifte van smaad en laster tegen Faber om uitspraken die ze over de agent deed tijdens een debat.
3 uur geleden
DEN HAAG (ANP) - Het kabinet wil "zorgvuldig haast maken" met de hersteloperatie voor toeslagenouders, maar Kamerleden zien geen concrete actie bij partijloos staatssecretaris Sandra Palmen.
3 uur geleden
DEN HAAG (ANP) - De Tweede Kamer hekelt de grote vertraging die een meldpunt voor buitenlandse intimidatie oploopt. Het kabinet meldde deze week dat het meldpunt er pas medio 2028 zal zijn omdat "de vereiste juridische grondslag" ontbreekt. Een meerderheid van de Kamer vindt dat veel te laat.
4 uur geleden
DEN HAAG (ANP) - Een deel van de Tweede Kamer wil andere regels rond het stichten van nieuwe scholen. Staatssecretaris Judith Tielen (Onderwijs, VVD) kwam al met aanpassingen van de wet, maar verschillende fracties kwamen woensdag tijdens een onderwijsdebat met andere suggesties.
5 uur geleden
DEN HAAG (ANP) - Nederland steunt de wederopbouw van Syrië dit jaar nog met 15 miljoen euro. Dat maakte minister Sjoerd Sjoerdsma (Ontwikkelingssamenwerking, D66) woensdag bekend tijdens de jaarvergadering van de Wereldbank in Bangkok.
7 uur geleden
DEN HAAG (ANP) - Het kabinet werkt aan een fokverbod voor dolfijnen. Volgens staatssecretaris Silvio Erkens (Dierenwelzijn) kunnen dolfijnen in gevangenschap niet hun natuurlijke gedrag vertonen. Daarom wil hij het houden van dolfijnen uitfaseren. Erkens denkt dat het verbod over ongeveer twee jaar kan ingaan.
7 uur geleden