Overheid gebruikt zeker 120 AI-systemen, risico vaak onduidelijk
DEN HAAG (ANP) - Overheidsorganisaties gebruiken volgens de Algemene Rekenkamer zeker 120 systemen op basis van kunstmatige intelligentie (AI). In bijna de helft van de gevallen is voor zover bekend geen afweging gemaakt over de risico's van zulke systemen, aldus collegelid Ewout Irrgang.
Systemen met kunstmatige intelligentie zijn niet met de hand geprogrammeerd, maar hebben met hulp van grote hoeveelheden data geleerd om taken uit te voeren. Daar kunnen problemen aan kleven zoals privacyschendingen en discriminatie. "Je kunt de risico's alleen beheersen als je ze kent", zegt Irrgang.
Het overgrote deel van de overheidsorganisaties gebruikt niet meer dan drie AI-systemen. Uitschieters zijn uitkeringsinstantie UWV, dat er tien in gebruik heeft, en de politie, waar dat er 23 zijn. Het UWV gebruikt AI onder meer om te voorspellen wie er na afloop van een uitkering geen inkomsten heeft, en om op basis daarvan ondersteuning te bieden. Irrgang: "Als systemen impact hebben op burgers, heb je eerder risico's."
Privacyschendingen
In gevallen waar de risico's wel zijn ingeschat, vinden overheidsorganisaties meestal dat die minimaal zijn. Maar ook dan is er kans op bijvoorbeeld privacyschendingen, merkt de Rekenkamer op. Een kleiner deel van de projecten wordt als "hoog risico" ingeschat. Het is niet uit te sluiten dat er ook AI-systemen worden gebruikt die binnenkort volgens EU-regels verboden zijn.
Hoe het risico precies wordt bepaald, verschilt van geval tot geval. Het kabinet zegt in een reactie de samenhang te willen verbeteren, en dat vindt Rekenkamer-collegelid Irrgang "positief".
Nut vaak onduidelijk
Niet alleen het risico, maar ook het nut van AI is vaak onduidelijk. Bij 42 van de 120 systemen is niet bekend of ze de verwachtingen waarmaken. Van de rest presteert het overgrote deel wel zoals verwacht of beter.
Het is de eerste keer dat de Rekenkamer AI-systemen onderzoekt. De controleur vroeg zeventig overheidsorganisaties om hun AI-gebruik in kaart te brengen, zoals het ministerie van Financiën, de douane en de NPO. Het is mogelijk dat er overheidsmedewerkers zijn die "ad hoc" programma's als ChatGPT gebruiken, maar die zijn niet in het onderzoek meegenomen. Dat geldt ook voor AI-systemen voor bijvoorbeeld militaire doelen of inlichtingen.
Meer uit Politiek
DEN HAAG (ANP) - Oud-studenten gaan op de lange termijn toch meer dan 2,5 procent rente betalen over hun studielening. D66, VVD en CDA hadden een maximum opgeschreven in het coalitieakkoord, maar onderwijsminister Rianne Letschert constateert in een Kamerbrief dat de gereserveerde 40 miljoen euro per jaar niet genoeg is om de rente voldoende te drukken.
22 uur geleden
DEN HAAG (ANP) - Zorgminister Sophie Hermans heeft als reactie op de verhoging van de zorgpremie door verzekeraar DSW herhaald dat er maatregelen nodig zijn om "de zorg betaalbaar en toegankelijk te houden". De "aanhoudende groeiende vraag naar zorg en de stijgende lonen en prijzen" zijn volgens haar belangrijke oorzaken van de gestegen zorgkosten.
1 dag geleden
DEN HAAG (ANP) - Het feit dat veel websites offline zijn gehaald vanwege twee kwetsbaarheden in programmeertaal PHP "heeft impact in onze digitale samenleving", aldus justitieminister David van Weel. Het is de eerste reactie van het kabinet, op het moment dat er al een oplossing beschikbaar is gesteld door PHP.
1 dag geleden
DEN HAAG (ANP) - Websites van meerdere politieke partijen zijn woensdag offline. In de nacht van dinsdag op woensdag werd gewaarschuwd voor kwetsbaarheden in de veelgebruikte programmeertaal PHP.
2 dagen geleden
DEN HAAG (ANP) - Verschillende zorgwoordvoerders in de Tweede Kamer willen verandering zien in het zorgstelsel. Die herhaalde oproep doen ze nadat zorgverzekeraar DSW woensdag bekendmaakte de premie voor de basisverzekering volgend jaar met 14,75 euro per maand te verhogen. Het ministerie van Volksgezondheid ging op Prinsjesdag nog uit van een stijging van 12,50 euro per maand.
2 dagen geleden
DEN HAAG (ANP) - Premier Rob Jetten zal rond de geboorte van zijn kind enkele dagen met verlof gaan. Dat blijkt uit een Q&A op de site van D66. Maandag kondigden Jetten en zijn partner Nicolás Keenan aan komend voorjaar een kind te verwachten.
3 dagen geleden
DEN HAAG (ANP) - Premier Rob Jetten en zijn partner Nicolás Keenan verwachten in 2027 een kind. De twee kondigden dat maandag aan op Instagram. Bij een foto waarop ze een echofoto vasthouden, schrijven ze dat ze hun eiceldonor, hun draagmoeder Lisa en hun gezinnen "super dankbaar" zijn.
4 dagen geleden