Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
HOOFDDORP (ANP) - Haarlemmermeer zet extra bewakingscamera's in om de wegen van Schiphol richting Den Haag in de gaten te houden tijdens de NAVO-top. De gemeente noemt het "aannemelijk dat er potentieel verstorende acties zullen plaatsvinden op de route tussen Schiphol en Den Haag".
4 uur geleden
NIEUW-BEIJERLAND (ANP) - Een motorrijder is donderdagavond om het leven gekomen door een aanrijding met een auto op de Schutskooi in Nieuw-Beijerland. Het slachtoffer is 19 jaar en komt uit Klaaswaal, meldt de politie.
5 uur geleden
DEN HAAG (ANP) - De ANWB verwacht dat het de komende dagen veel drukker wordt bij de Wegenwacht door het warme weer. Hoge temperaturen zorgen volgens de ANWB vaak voor technische problemen aan auto's, zoals startproblemen en problemen met de accu. De ANWB zet extra mensen in.
8 uur geleden
DEN HAAG (ANP) - Ook het lichaam van de 83-jarige Paul Klapper is gevonden in Frankrijk, bevestigt Namens de Familie. Eerder donderdag werd bekend dat het lichaam van zijn partner Gerda Klapper woensdag in Frankrijk was gevonden, het lichaam van Paul is donderdag gevonden. Het echtpaar uit Alphen aan den Rijn was al een paar dagen vermist.
8 uur geleden
DEN HAAG (ANP) - Militairen van de Luchtmobiele Brigade in Irak kunnen door de oorlog tussen Israël en Iran het land niet verlaten. Zij zijn daar voor de beveiliging van de NAVO-missie. De Nederlandse bijdrage duurt tot eind deze maand, maar een deel van de militairen zou nu al vertrekken. Zij gaan nu voorlopig door met hun werkzaamheden.
9 uur geleden
DEN HAAG (ANP) - De 80-jarige Gerda Klapper uit Alphen aan den Rijn is waarschijnlijk niet door een misdrijf om het leven gekomen. Dat meldt de politie nadat bekend is geworden dat haar lichaam woensdag in Frankrijk is gevonden. Daar wordt nog altijd "met man en macht" gezocht naar haar 83-jarige echtgenoot Paul.
9 uur geleden
DEN HAAG (ANP) - Vrouwen die vroeger hun kind moesten afstaan omdat ze ongehuwd zwanger waren geworden, hebben daar veel schade door geleden. Dat geldt ook voor de kinderen. Moeder en kind, en ook de vader, hadden "niet of nauwelijks een stem, laat staan enige regie", oordeelt een commissie onder leiding van hoogleraar pedagogiek Micha de Winter. "Hierdoor is grote schade aangericht."
10 uur geleden