Opnieuw waarschuwt AI-onderzoeker dat AI mensheid kan uitroeien
SAN FRANCISCO (ANP/RTR) - Opnieuw heeft een AI-onderzoeker gewaarschuwd dat de technologie van kunstmatige intelligentie "de mensheid kan uitroeien". Volgens een oud-medewerker van Google DeepMind is de tijd bijna op om dat scenario te voorkomen.
De ongerustheid over mogelijke gevaren van AI neemt de laatste tijd toe. Vorige week maakte Anthropic-onderzoeker Jacob Coxon bekend dat hij is opgestapt, onder meer omdat de "mensen die AI bouwen er heilig in geloven dat het ons allemaal kan uitroeien voor het einde van dit decennium". Een collega bij Anthropic, Evan Hubinger, reageerde vervolgens op de uitspraken door te stellen dat Coxon gelijk had. Hubinger zei te geloven dat er een kans van meer dan 10 procent is dat AI de mensheid binnen nu en tien jaar uitroeit.
Nu mengt Bilal Chughtai, die recent vertrok bij het AI-onderdeel van Google, zich op X in de discussie: "Ik ben er heilig van overtuigd dat AI het potentieel heeft om ons allemaal te doden, en dat we wel eens te weinig tijd zouden kunnen hebben om dit af te wenden."
Veilige AI
Naar aanleiding van alle zorgen riep Anthropic-topman Dario Amodei dit weekend op om het tempo van de ontwikkeling van AI-modellen te vertragen. Hij kreeg vervolgens bijval van SpaceX-baas Elon Musk en OpenAI-topman Sam Altman, wat leidde tot een fel debat over het doemdenken rond AI.
Volgens Chughtai moet het wel mogelijk zijn om veilige AI te hebben. Maar daarvoor is volgens hem samenwerking nodig "om deze bezeten race tussen AI-bedrijven te vermijden". "We moeten de ontwikkeling van AI afremmen tot een snelheid die de maatschappij aankan."
De Amerikaanse president Donald Trump daarentegen wuifde de waarschuwingen maandag weg. Op zijn platform Truth Social noemde hij de suggestie dat AI de wereld kan overnemen, een "HOAX".
Meer uit Financieel
EINDHOVEN (ANP) - Het Eindhovense AI-chipbedrijf Euclyd heeft ruim 200 miljoen euro opgehaald bij investeerders in de eerste grote financieringsronde van de startende onderneming. Het bedrijf, dat in 2024 werd opgericht op de High Tech Campus Eindhoven, maakte tevens bekend dat oud-topman Peter Wennink van chipmachinemaker ASML voorzitter wordt van de raad van commissarissen.
13 minuten geleden
EINDHOVEN (ANP) - De brandstofprijzen aan de Nederlandse pomp zijn dinsdagochtend met meer dan 3 cent gestegen door de verder oplopende olieprijzen. De adviesprijs voor Euro95 is volgens consumentenvoordeelplatform UnitedConsumers nu 2,716 euro per liter. Dat was 2,682 euro op maandag. Daarmee staat benzine weer bijna op het record van 2,724 euro van begin vorige week.
54 minuten geleden
NEW YORK (ANP) - Wall Street is de eerste handelsdag van de week lager gesloten. Vooral verliezen bij Nvidia en andere chipbedrijven drukten op de beurzen, nadat topbestuurders van Amerikaanse AI-bedrijven hun zorgen over de veiligheid van kunstmatige intelligentie hadden uitgesproken. Ook waren beleggers nerveus nadat de rente op Amerikaanse staatsobligaties kortstondig boven de 5 procent uitkwam. Dat was voor het eerst sinds 2023.
10 uur geleden
AMSTERDAM (ANP) - Chipbedrijven hebben maandag forse verliezen genoteerd op de Amsterdamse beurs. Dat gebeurde nadat afgelopen weekend grote AI-bedrijven zorgen hadden geuit over de risico's van AI. Anthropic-topman Dario Amodei riep op om de ontwikkelingen van AI-modellen bewust te vertragen en kreeg bijval van OpenAI-topman Sam Altman en xAI-medeoprichter Elon Musk.
14 uur geleden
SCHIPHOL (ANP) - Het merendeel van de schoonmakers op Schiphol heeft maandag het werk neergelegd tijdens de eerste van vijf stakingsdagen. Dat zegt FNV-bestuurder Caroline Lamberts. Ook op grote treinstations, zoals in Utrecht, Rotterdam, Groningen en Nijmegen, wordt volgens haar "volop gestaakt" door schoonmaakmedewerkers.
16 uur geleden
REDMOND (ANP/RTR/BLOOMBERG) - Microsoft heeft maandag nieuwe richtlijnen gepresenteerd voor het ontwerpen van zijn AI-modellen. Daarmee probeert het tech- en softwareconcern zorgen over AI weg te nemen. De strekking van de ontwerpgedragscode is "Mensen zijn belangrijker dan AI".
16 uur geleden
NEW YORK (ANP) - De aandelenbeurzen in New York zijn maandag lager geopend, na de winsten die op vrijdag nog werden geboekt. De chipbedrijven op Wall Street stonden onder druk nadat grote AI-bedrijven hadden opgeroepen om de ontwikkeling van modellen voor kunstmatige intelligentie bewust te vertragen. De olieprijzen stegen weer, wat zorgde voor winsten in de oliesector.
16 uur geleden