Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
DE BILT (ANP) - In een groot deel van het land geldt maandagochtend code geel om plaatselijk dichte mist. Met uitzondering van het noorden en noordoosten kan het zicht plaatselijk minder dan 200 meter zijn. Het KNMI heeft de weerwaarschuwing daarom afgegeven voor alle provincies, behalve Groningen, Friesland en Drenthe.
22 minuten geleden
DEN HAAG (ANP) - De Nederlandse cruisemaatschappij Oceanwide Expeditions onderzoekt de herkomst en mogelijke verspreiding van het hantavirus aan boord van de MV Hondius. Het bedrijf bevestigt in een persverklaring in de nacht van zondag op maandag dat één opvarende positief is getest op het virus. Het gaat om een patiënt die momenteel is opgenomen op de intensive care in Johannesburg in Zuid-Afrika. De Wereldgezondheidsorganisatie (WHO) meldde dat eerder al.
3 uur geleden
ROTTERDAM (ANP) - De politie heeft rond 23.45 uur zondagavond aan de Pleinweg in Rotterdam een zwaargewonde man aangetroffen. De man zat in een auto en is mogelijk het slachtoffer geworden van een steekincident dat plaatsvond in de Tarwewijk, maar waar precies is onduidelijk.
4 uur geleden
EGMOND AAN ZEE (ANP) - Bij de kust van Egmond aan Zee is zondagavond een levende witsnuitdolfijn gestrand, meldt SOS Dolfijn. Het dier wordt koel gehouden met natte doeken, schrijft de stichting op Facebook. Volgens NH Nieuws wordt de witsnuitdolfijn naar de opvang van SOS Dolfijn gebracht om te kijken hoe het gered kan worden.
5 uur geleden
DEN HAAG (ANP) - Nederland gaat de repatriëring leiden van twee zieke bemanningsleden aan boord van het schip m/v Hondius dat voor anker ligt voor de kust van Kaapverdië, meldt de Nederlandse cruisemaatschappij Oceanwide Expeditions zondagavond laat in een persbericht. Drie passagiers aan boord van het schip zijn overleden. Volgens de Wereldgezondheidsorganisatie (WHO) testte er zeker een positief op het hantavirus.
5 uur geleden
AMSTERDAM (ANP) - Dagblad Trouw viert maandag de 25.000e editie van de krant. Ter gelegenheid van deze mijlpaal hebben zowel de krant zelf als de website maandag het oude logo waarmee de krant in de oorlogsjaren werd gepubliceerd. Dat heeft hoofdredacteur Wendelmoet Boersema zondag gemeld in het radioprogramma Met Het Oog op Morgen.
5 uur geleden
DEN HAAG (ANP) - Het ministerie van Buitenlandse Zaken (BuZa) heeft bevestigd dat twee Nederlandse opvarenden van een kleinschalig cruiseschip zijn overleden. Volgens een woordvoerder werd een Nederlander ziek aan boord en overleed de persoon medio april tijdens een reis van Argentinië naar Kaapverdië. De tweede Nederlander, die ook ziek werd, is nog overgebracht naar Zuid-Afrika, waar de persoon overleed.
8 uur geleden