Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
DEN HAAG (ANP) - Deze meivakantie kiest 42 procent van de vakantiegangers voor een vakantie in eigen land. Dat blijkt uit onderzoek van de ANWB onder ruim duizend Nederlanders van 18 jaar en ouder die op vakantie gaan tussen 27 april en 12 mei. "Nederland past goed bij een kortere vakantie: de kust, bos en heide, maar ook historische steden en dorpen worden graag bezocht", aldus de organisatie.
10 minuten geleden
DEN HAAG (ANP) - Overheidsinstanties hebben "onbehoorlijk en ongepast gehandeld" tijdens de crisissituatie in de zomer van 2022 bij het aanmeldcentrum in Ter Apel. Aangeboden hulpmiddelen werden van asielzoekers afgepakt en burgers die hulp boden, werden gewaarschuwd voor arrestatie. De Nationale Ombudsman veroordeelt het handelen van de overheidsinstanties destijds in het rapport 'Verboden hulp te bieden?'.
2 uur geleden
DEN HAAG (ANP) - Met een kort geding wil Greenpeace de overheid dwingen tot het maken van een plan om de stikstofbelasting van de natuur op korte termijn fors te verlagen. De milieuorganisatie wijst ter onderbouwing op onderzoek van onder meer het Planbureau voor de Leefomgeving (PBL), waar vorig jaar uit bleek dat de wettelijk vastgelegde doelen nog buiten bereik zijn. Het eerste tussendoel dat gemist dreigt te worden, is niet ver weg meer. Eind volgend jaar mag geen te grote hoeveelheid stikstof meer neerdalen in 40 procent van de natuurgebieden die daar gevoelig voor zijn.
4 uur geleden
DEN HAAG (ANP) - De Raad van State, de hoogste bestuursrechter, doet donderdag een nieuwe uitspraak over de zogenoemde derdelanders. Zij zijn gevlucht uit Oekraïne en kregen in Nederland bescherming, maar het kabinet heeft besloten die opvang te stoppen. De vluchtelingen vechten dat aan. De uitspraak komt om 10.00 uur.
4 uur geleden
DEN HAAG (ANP) - Instellingen in de jeugdhulp komen in steeds grotere financiële problemen. Daarvoor waarschuwt de Jeugdautoriteit, die voor de overheid de sector in de gaten moet houden. De organisaties kampen met hoog ziekteverzuim en hoge energielasten. Daarnaast zijn ze meer geld kwijt door een afgesproken loonsverhoging voor medewerkers. In de coronajaren kregen ze financiële steun, maar die is weggevallen.
7 uur geleden
DEN HAAG (ANP) - Steeds meer 65-plussers hebben een motorfiets, heeft het Centraal Bureau voor de Statistiek (CBS) becijferd. Inmiddels behoort ruwweg een op de zeven motorbezitters tot die leeftijdsgroep.
7 uur geleden
DEN HAAG (ANP) - Bijna 9000 mensen hebben in januari, februari en maart asiel aangevraagd in Nederland. Dat is 29 procent meer dan in hetzelfde kwartaal een jaar eerder.
7 uur geleden