Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
APELDOORN (ANP) - De politie heeft bij een kleine extreemrechtse demonstratie in Apeldoorn vier betogers aangehouden. Drie van hen hadden fakkels afgestoken en een droeg gezichtsbedekking, laat een woordvoerder weten. Dat was in strijd met de voorwaarden voor het protest.
3 minuten geleden
DEN HAAG (ANP) - De kortste dag van het jaar is geweest. Vanaf nu worden de dagen langer en de nachten korter. Het wordt 's ochtends steeds iets vroeger licht en het wordt 's avonds steeds iets later donker.
5 minuten geleden
UTRECHT (ANP) - Camiel Jansen is de nieuwe Componist der Nederlanden. Dat is zondag bekendgemaakt in TivoliVredenburg Utrecht tijdens de viering van het 10-jarig bestaan van de titel. De 34-jarige Jansen is de zesde Componist der Nederlanden en volgt Anne-Maartje Lemereis op, die de afgelopen twee jaar ambassadeur was van het Nederlandse muziekleven.
16 minuten geleden
ZUIDOOST-POLEN (ANP) - Nederlands hoogste militair heeft vier dagen voor kerst opgetreden als 'postillon d'amour' voor twee uitgezonden militairen. Commandant der Strijdkrachten Onno Eichelsheim bezorgde hoogstpersoonlijk een romantische boodschap voor een luitenant die helpt het Poolse luchtruim te verdedigen. Eichelsheim kreeg het kaartje mee van diens vriendin, die in Bosnië dient.
1 uur geleden
AMSTERDAM (ANP) - De verdachte die zaterdag is opgepakt na een steekincident in Amsterdam is een 29-jarige Amsterdammer, meldt de politie zondag. In een appartementencomplex aan de Menadostraat (wijk Zeeburg) zijn zaterdagmiddag drie mensen neergestoken. Ze zijn naar het ziekenhuis gebracht en verkeren niet in levensgevaar.
1 uur geleden
YSSELSTEYN (ANP) - Op een kalkoenenbedrijf in het Limburgse Ysselsteyn is vogelgriep vastgesteld. Alle circa 23.000 kalkoenen worden gedood om verdere verspreiding van het besmettelijke virus te voorkomen.
7 uur geleden
UTRECHT (ANP) - Jaarlijks kost het ruim 3 miljoen euro om bekladdingen en vernielingen op Nederlandse stations te herstellen. Dat becijfert spoorbeheerder ProRail. Er komen per jaar gemiddeld 4300 meldingen van vandalisme binnen. Het gaat dan om kapotte liften, ingegooide ruiten, bekladde muren, gesloopte wachtruimtes, kapotte prullenbakken en vernielde fietsenstallingen.
7 uur geleden