Hoofddocent UvA maakt zich zorgen over mogelijke gevaren ChatGPT
AMSTERDAM (ANP) - Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema "gevaarlijk" zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. "Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek", aldus de universitair docent.
Toezichthouders
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. "Bedrijven nemen zelf geen verantwoordelijkheid", aldus Zuidema.
Verboden in Italië
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een "zorgwekkende ontwikkeling". Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die "commercieel minder interessant" zijn sterk onderbelicht blijven. "Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo's."
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.
Meer uit Binnenland
DIDAM (ANP) - In een blok met vijf woningen aan de Begoniastraat in Didam (Gelderland) is in de nacht van maandag op dinsdag brand uitgebroken. Het vuur woedt in drie van de woningen, meldt de brandweer. De huizen in het blok worden ontruimd. Het is onduidelijk of er nog mensen in de brandende woningen zijn. Voor de zekerheid is een ambulance opgeroepen.
1 uur geleden
DEN HAAG (ANP) - Rusland is schuldig aan het neerhalen van vlucht MH17 en heeft daarmee de internationale afspraken over burgerluchtvaart geschonden, oordeelt de Raad van de Internationale Burgerluchtvaart Organisatie (ICAO-Raad). De organisatie heeft dit besluit genomen in een zaak die is aangespannen door Nederland en Australië, meldt het ministerie van Buitenlandse Zaken.
9 uur geleden
DEN HAAG (ANP) - Het Noodfonds Energie, voor hulp bij het betalen van de energierekening, krijgt er volgens staatssecretaris Jurgen Nobel (Sociale Zaken, VVD) dit jaar geen extra geld bij. Het kabinet had er 56,3 miljoen euro voor uitgetrokken, maar dat is nu al op.
11 uur geleden
BRUSSEL (ANP) - Schuldhoudbaarheid is voor minister Eelco Heinen (Financiën, VVD) nog steeds de belangrijkste voorwaarde voor eventuele defensieleningen van de Europese Commissie aan EU-lidstaten. Pas als dat is geregeld, kan wat hem betreft over andere voorwaarden worden gepraat, zoals deelname van niet-EU-landen aan gezamenlijke defensie-investeringen, zei Heinen voor het begin van een tweedaags overleg met de EU-ministers.
11 uur geleden
UTRECHT (ANP) - De 29-jarige Hamzah L. die verdacht wordt van het doodsteken van een 11-jarig meisje afgelopen februari in Nieuwegein, heeft "ontzettend veel spijt". Hij zei dat hij last had van wanen, in een psychose verkeerde en drugs had gebruikt. Hij is zich nadien naar eigen zeggen steeds meer gaan herinneren van wat hij heeft gedaan. "Ik kan niet naar mezelf kijken, ik ben er echt kapot van", vertelde hij maandag in de rechtbank in Utrecht, tijdens de eerste voorbereidende zitting.
12 uur geleden
DEN HAAG (ANP) - Ook basisscholen in Den Haag willen minder vaak externe leraren inhuren. "Het uitgangspunt: geen externe leraren, tenzij er geen andere optie is. Schoolbesturen zetten zich in om personeel vast aan de school te binden en niet afhankelijk te zijn van externen", aldus een woordvoerder van onderwijswethouder Hilbert Bredemeijer.
12 uur geleden
NIJMEGEN (ANP) - Het bestuur van de Radboud Universiteit wil het advies volgen om de samenwerking met twee Israëlische universiteiten op te schorten. Op de universiteit in Nijmegen wordt maandag overleg gevoerd over het voornemen. De medezeggenschap mag eerst nog advies uitbrengen, daarna volgt het definitieve besluit. De verwachting is dat dit later deze week komt.
13 uur geleden