Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
AMSTERDAM (ANP) - Politiemensen hebben dinsdagmiddag gedregd in het water achter een pand van het Centraal Orgaan opvang asielzoekers (COA) in Amsterdam. Het Openbaar Ministerie (OM) laat weten dat het onderzoek te maken had met de dood van de 17-jarige Lisa vorige week.
12 minuten geleden
ASSEN (ANP) - Een vrouw van 72 jaar uit het Drentse Assen is dood gevonden in het Noord-Willemskanaal bij Tynaarlo. Een 79-jarige man uit dezelfde plaats is gearresteerd omdat hij mogelijk betrokken was bij haar overlijden. Of de twee elkaar kenden, meldt de politie dinsdag niet.
20 minuten geleden
DEN HAAG (ANP) - Het transportvliegtuig van Defensie dat voedsel dropte boven Gaza is maar een dag langer in Jordanië gebleven. De C-130 Hercules keerde zaterdag terug naar Nederland, aldus een woordvoerder van het ministerie. Vorige week kondigde het demissionaire kabinet aan dat het vliegtuig op verzoek van Jordanië langer voedsel boven de Palestijnse kuststrook zou afwerpen.
2 uur geleden
HAARLEM (ANP) - Jongeren en jongvolwassenen smeren zich over het algemeen vaker in met zonnebrandcrème dan de gemiddelde Nederlander, maar toch verbranden ze vaker. Volgens onderzoekers van de Universiteit Maastricht komt dat doordat ze vaker de zon opzoeken wanneer die het krachtigst is en dan bijvoorbeeld op het strand liggen. Het Nationaal Huidfonds, dat opdracht gaf voor het onderzoek, concludeert dat jongeren het risico nog vaak onderschatten.
2 uur geleden
UTRECHT (ANP) - De NS gaat treinreizigers in de spits dit najaar wijzen op rustigere alternatieven. De vervoerder hoopt hen zo te bewegen een minder drukke trein te kiezen. Onder meer met pushmeldingen wil de NS reizigers attenderen op treinen met meer zitplaats.
4 uur geleden
UTRECHT (ANP) - Een omslagpunt in het klimaat ligt mogelijk veel dichterbij dan onderzoeken tot nu toe verwachtten. Wetenschappers van de Universiteit Utrecht zien in hun klimaatmodel dat de Golfstroom in de jaren zestig van deze eeuw al een kritisch kantelpunt kan bereiken als de uitstoot van broeikasgassen niet drastisch vermindert.
4 uur geleden
HILVERSUM (ANP) - AVROTROS heeft Lucille Werner aangesteld als projectleider sociale veiligheid, diversiteit en inclusie. De presentatrice en oud-politica gaat daar de plannen voor sociale veiligheid die zijn ontwikkeld na het advies van de commissie-Van Rijn verder uitrollen en implementeren, meldt de omroep dinsdag.
5 uur geleden