Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
DEN HAAG (ANP) - De salarissen van medewerkers van universiteiten gaan omhoog. Daarnaast beloven de instellingen dat ze meer doen om het verschil in loon tussen mannen en vrouwen kleiner te maken. Dat staat in een cao, waarover werkgevers en vakbonden een akkoord hebben bereikt.
28 minuten geleden
ZWOLLE (ANP) - Een 53-jarige man uit Zwolle is dinsdag veroordeeld tot acht jaar cel voor het jarenlang misbruiken van zijn zoon. Het misbruik vond volgens het slachtoffer tussen de vierhonderd en vijfhonderd keer plaats. De 52-jarige moeder van de jongen kreeg drie jaar.
34 minuten geleden
AMSTERDAM (ANP) - Het burgerinitiatief Amsterdam heeft een Keuze spant een rechtszaak aan tegen de gemeente Amsterdam omdat de stad volgens het initiatief de groei van het massatoerisme onvoldoende aanpakt. Amsterdam had van de groep tot dinsdag de tijd gekregen om zich te houden aan de eigen verordening uit 2021.
42 minuten geleden
REUSEL (ANP) - Op meerdere locaties zijn dinsdagmiddag natuurbranden uitgebroken. Het gaat onder meer om Oss in Brabant en Heerde op de Veluwe.
45 minuten geleden
AMSTERDAM (ANP) - Onder bloedhete omstandigheden is in het Oosterpark in Amsterdam het trans-Atlantische slavernijverleden herdacht. Honderden mensen, sommigen in traditionele kleding, waren ondanks de hitte naar het park gekomen om de nationale herdenking bij te wonen. Die was ook te volgen op grote schermen.
48 minuten geleden
DE BILT (ANP) - De temperatuur op het hoofdstation in De Bilt steeg dinsdag tot boven de 35 graden. Om 15.50 uur werd het 35,3 graden in De Bilt, waarmee het officieel een zeer hete dag is, meldt Weeronline.
1 uur geleden
ROTTERDAM (ANP) - Het universitair medische centrum Erasmus MC in Rotterdam zal ongeveer 335.000 euro aan Europese subsidies teruggeven aan de EU. Voor de aanvraag had het ziekenhuis een speciaal bedrijf ingehuurd, Percuros, maar dat is in opspraak gekomen door mogelijke fraude.
1 uur geleden