Overheid gebruikt zeker 120 AI-systemen, risico vaak onduidelijk
DEN HAAG (ANP) - Overheidsorganisaties gebruiken volgens de Algemene Rekenkamer zeker 120 systemen op basis van kunstmatige intelligentie (AI). In bijna de helft van de gevallen is voor zover bekend geen afweging gemaakt over de risico's van zulke systemen, aldus collegelid Ewout Irrgang.
Systemen met kunstmatige intelligentie zijn niet met de hand geprogrammeerd, maar hebben met hulp van grote hoeveelheden data geleerd om taken uit te voeren. Daar kunnen problemen aan kleven zoals privacyschendingen en discriminatie. "Je kunt de risico's alleen beheersen als je ze kent", zegt Irrgang.
Het overgrote deel van de overheidsorganisaties gebruikt niet meer dan drie AI-systemen. Uitschieters zijn uitkeringsinstantie UWV, dat er tien in gebruik heeft, en de politie, waar dat er 23 zijn. Het UWV gebruikt AI onder meer om te voorspellen wie er na afloop van een uitkering geen inkomsten heeft, en om op basis daarvan ondersteuning te bieden. Irrgang: "Als systemen impact hebben op burgers, heb je eerder risico's."
Privacyschendingen
In gevallen waar de risico's wel zijn ingeschat, vinden overheidsorganisaties meestal dat die minimaal zijn. Maar ook dan is er kans op bijvoorbeeld privacyschendingen, merkt de Rekenkamer op. Een kleiner deel van de projecten wordt als "hoog risico" ingeschat. Het is niet uit te sluiten dat er ook AI-systemen worden gebruikt die binnenkort volgens EU-regels verboden zijn.
Hoe het risico precies wordt bepaald, verschilt van geval tot geval. Het kabinet zegt in een reactie de samenhang te willen verbeteren, en dat vindt Rekenkamer-collegelid Irrgang "positief".
Nut vaak onduidelijk
Niet alleen het risico, maar ook het nut van AI is vaak onduidelijk. Bij 42 van de 120 systemen is niet bekend of ze de verwachtingen waarmaken. Van de rest presteert het overgrote deel wel zoals verwacht of beter.
Het is de eerste keer dat de Rekenkamer AI-systemen onderzoekt. De controleur vroeg zeventig overheidsorganisaties om hun AI-gebruik in kaart te brengen, zoals het ministerie van Financiën, de douane en de NPO. Het is mogelijk dat er overheidsmedewerkers zijn die "ad hoc" programma's als ChatGPT gebruiken, maar die zijn niet in het onderzoek meegenomen. Dat geldt ook voor AI-systemen voor bijvoorbeeld militaire doelen of inlichtingen.
Meer uit Politiek
DEN HAAG (ANP) - Demissionair staatssecretaris Teun Struycken (Justitie, NSC) weet nog niet wat de strengere asielwet gaat betekenen voor het al nijpende cellentekort. De Tweede Kamer stemde na een chaotische dag in met de asielwet, waarin nu ook staat dat illegaliteit en hulp aan illegalen strafbaar zijn. Illegalen of helpers kunnen tot zes maanden celstraf krijgen, terwijl het kabinet vanwege het cellentekort nu al toestaat dat gevangenen tot twee weken eerder de cel mogen verlaten.
8 uur geleden
DEN HAAG (ANP) - Staatssecretaris Thierry Aartsen (Milieu) is blij met het voorstel van het bedrijfsleven om jaarlijks minstens 115.000 ton gerecycled plastic in te kopen. Voorafgaand aan de ministerraad zegt de demissionaire VVD-bewindsman dat hij "nu eindelijk een keer die discussie kan gaan voeren."
8 uur geleden
DEN HAAG (ANP) - Een meerderheid van 94 Tweede Kamerleden heeft voor de asielnoodmaatregelenwet gestemd na een avond waarin de fracties van NSC en SGP tot op het laatst onbeslist waren. De partijen hadden veel moeite met het wijzigingsvoorstel van de PVV over de strafbaarstelling van illegaliteit, omdat ze vreesden dat humanitaire hulp aan illegalen daardoor strafbaar zou worden.
20 uur geleden
DEN HAAG (ANP) - Een ruime meerderheid van 95 Kamerleden heeft voor de wet gestemd over een tweestatusstelsel. Hierin wordt geregeld dat vluchtelingen worden opgedeeld in twee groepen, waarvan er één minder rechten krijgt. Het is nog allerminst zeker of de wet ook op voldoende steun kan rekenen in de Eerste Kamer. Daar is de steun van het CDA belangrijk en die partij is tegen.
20 uur geleden
DEN HAAG (ANP) - Justitie- en asielminister David van Weel (VVD) is bereid het artikel uit de asielnoodmaatregelenwet dat de strafbaarstelling van illegaliteit regelt, niet meteen in werking te laten treden. Hij laat eerst de Raad van State advies uitbrengen en bespreekt dit vervolgens met de Tweede Kamer.
20 uur geleden
DEN HAAG (ANP) - VVD en CDA willen een boycot van producten uit illegale Israëlische nederzettingen op de bezette Westelijke Jordaanoever. Ze willen dat demissionair minister Caspar Veldkamp (Buitenlandse Zaken, NSC) hiervoor steun gaat zoeken in de Europese Unie. De bewindsman ontraadde donderdag de motie, maar een meerderheid in de Kamer stemde er toch mee in.
21 uur geleden
DEN HAAG (ANP) - Regeringspartij NSC wil "zwart op wit" van justitie- en asielminister David van Weel dat de strenge asielwetgeving er niet voor zorgt dat het strafbaar wordt om humanitaire hulp te bieden aan mensen die illegaal in Nederland zijn. Komt die garantie er niet, dan kan NSC niet met het wetsvoorstel instemmen, zegt fractievoorzitter Nicolien van Vroonhoven.
22 uur geleden