Waakhond: laat organisaties algoritmes verantwoorden
DEN HAAG (ANP) - Organisaties die "serieus persoonsgegevens verwerken" moeten voor, tijdens en na het gebruik van algoritmes en kunstmatige intelligentie (AI) verantwoording over dit gebruik afleggen, als dit grote impact op burgers kan hebben. Daarvoor pleit de Autoriteit Persoonsgegevens (AP), die toezicht houdt op de verwerking van persoonsgegevens. De zogeheten sets van instructies die een computer volgt hebben nog te veel risico's, concludeert de waakhond in een nieuw rapport. Dan gaat het bijvoorbeeld om het risico op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.
Volgens de waakhond werken inmiddels bijna alle organisaties met algoritmes: van banken en ziekenhuizen tot bouwbedrijven. "Veel klanten betekent veel data van klanten in je bestanden", zegt AP-voorzitter Aleid Wolfsen. De toeslagenaffaire is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Bij de Belastingdienst kwamen mensen met een dubbele nationaliteit eerder uit het systeem rollen. Onlangs gingen DUO en het UWV ook de fout in met algoritmes.
Duidelijke regels vanuit de overheid zijn "nu cruciaal", staat in het rapport. Er ontbreken nog te vaak instrumenten om risicovolle algoritmes te controleren en beheersen. Totdat die er zijn moeten organisaties in Nederland ook terughoudend zijn met nieuwe toepassingen, zoals slimme chatbots.
Voortgang maken
Het demissionaire kabinet moet "voortgang maken en versnellen met inspanningen voor beleid", vindt de AP. Dat onderschrijft demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) via een woordvoerder. Wolfsen is niet bang dat de Tweede Kamer algoritmes en kunstmatige intelligentie controversieel verklaart. "Juist in een demissionaire periode mag de bescherming van burgers niet stilliggen."
In het bestaande register voor algoritmes die overheidsinstellingen gebruiken moeten over een jaar alle hoogrisico-algoritmes staan, zegt Wolfsen. Invullen is nu nog niet verplicht, maar de AP ziet daar ruimte voor nu een Kamermeerderheid ook voor verplichting pleit. De NOS meldde eerder dat het register nauwelijks werd ingevuld en informatie ontbrak.
Organisaties en bedrijven kunnen zelf al onderzoeken welke algoritmes ze gebruiken en hoeveel risico ze bevatten, zegt Wolfsen. "Als je dat niet doet kunnen er serieuze rampen gebeuren", verwijst hij naar de toeslagenaffaire. Bedrijven moeten ook zorgen dat in "de hoogste leiding" mensen zitten die snappen hoe algoritmes werken.
Meer uit Binnenland
TER APEL (ANP) - Afgelopen nacht hebben 106 asielzoekers voor wie geen plek was in het aanmeldcentrum in Ter Apel geslapen in de nachtopvang in de Wijk. Nog eens 13 mensen zijn opgevangen in hotel Lumen in Zwolle. Vijf mensen bleven achter op het voorterrein in Ter Apel. Dat meldt het Rode Kruis.
5 minuten geleden
AMSTERDAM (ANP) - De herstelwerkzaamheden aan de flat in Amsterdam Nieuw-West waar in de nacht van donderdag op vrijdag een zware explosie plaatsvond, zijn ook zaterdag nog gaande. Dat meldt woningcorporatie Stadgenoot, die appartementen in het flatgebouw aan de Osdorper Ban verhuurt.
31 minuten geleden
WIJK BIJ DUURSTEDE (ANP) - Bij rellen bij het gemeentehuis in Wijk bij Duurstede heeft de politie vrijdagavond zeven mensen opgepakt. Er zijn volgens de politie zware vernielingen aangebracht aan het gemeentehuis. De mobiele eenheid is in actie gekomen.
46 minuten geleden
WOERDEN (ANP) - Het treinverkeer rond Woerden is in de nacht van vrijdag op zaterdag weer opgestart. Door een brand in een transformatorhuisje kwamen vrijdagmiddag drie treinen op het spoor stil te staan. Zo'n 1300 reizigers moesten worden geëvacueerd en dat duurde tot in de avond.
2 uur geleden
ZWOLLE (ANP) - Een groep van zo'n tien asielzoekers bij aanmeldcentrum Ter Apel is vrijdagavond in een bus naar Zwolle vertrokken. Dat gebeurde omdat de nachtopvang in De Wijk al vol zit, meldt een woordvoerster van de gemeente Zwolle.
10 uur geleden
AMSTERDAM (ANP) - Hulpdiensten zoeken niet meer naar mensen onder het puin van de flat in Amsterdam, waar in de nacht van donderdag op vrijdag een zware explosie was. In de afgelopen uren is niemand meer gevonden, meldt de Veiligheidsregio Amsterdam-Amstelland vrijdagavond laat.
11 uur geleden
DEN HAAG (ANP) - De storing met het asielsysteem Eurodac is opgelost. Dat laat de Immigratie- en Naturalisatiedienst (IND) vrijdagavond laat weten. De storing was op de dag dat het Europese migratiepact in werking trad.
12 uur geleden