AI-bedrijven kunnen modellen niet beheersen, zegt klokkenluider
NEW YORK (ANP/AFP) - Toonaangevende AI-bedrijven weten niet hoe ze moeten voorkomen dat AI-systemen doelen nastreven die hun ontwikkelaars niet hebben meegegeven. Daarvoor waarschuwde klokkenluider Jacob Coxon, een voormalig medewerker van ChatGPT-moederbedrijf OpenAI en Claude-maker Anthropic.
"Gezien wat er op het spel staat, zijn bedrijven bijzonder roekeloos bezig", zei Coxon tijdens een hoorzitting in New York.
De Britse onderzoeker publiceerde begin september een verklaring op X, waarin hij uitlegde waarom hij bij Anthropic vertrok. Daarin zei Coxon dat AI-ontwikkelaars die de technologie rond kunstmatige intelligentie (AI) bouwen er oprecht in geloven "dat het ons allemaal kan uitroeien voor het einde van dit decennium". Zijn getuigenis haalde wereldwijd het nieuws en verschillende huidige en voormalige medewerkers van grote bedrijven in de AI-sector hebben sindsdien vergelijkbare zorgen geuit.
Uitsterven mens
Hoewel AI de samenleving "enorme voordelen" kan brengen, is het volgens de klokkenluider "op de huidige koers waarschijnlijker dan niet dat de mensheid de controle over deze AI verliest en dat kan uitmonden in het uitsterven van de mens", zei hij maandag.
"We weten niet hoe we kunnen voorkomen dat ze eigen doelen ontwikkelen" die buiten de macht van hun makers vallen, legde Coxon uit. "We hebben ook niet de waarborgen om te voorkomen dat ze op die doelen gaan handelen."
De voormalige Anthropic-onderzoeker haalde ook uit naar de cultuur in de techsector. Bedrijven "werken met een start-upmentaliteit: snel handelen, dingen kapotmaken en ze later repareren". "Dat werkt voor een app om foto's te delen. Het werkt niet voor het bouwen van de krachtigste technologie ooit", aldus Coxon.
Meer uit Financieel
BRUSSEL (ANP/RTR) - De Europese Commissie heeft miljoenensteun van de Poolse regering aan vrachtwagenfabrikant MAN Trucks afgewezen. Volgens Brussel is de steun van 26 miljoen euro die Polen had goedgekeurd voor de uitbreiding van een fabriek in Niepołomice in strijd met Europese regels voor staatssteun.
1 uur geleden
WASHINGTON (ANP/BLOOMBERG/RTR) - Donald Trump werkt aan een nieuwe maatregel om de dieselprijzen in de Verenigde Staten omlaag te krijgen voor de tussentijdse verkiezingen in november. De Amerikaanse president wil de beperkingen op het gebruik van een belastingvrije variant van diesel versoepelen, meldt persbureau Bloomberg op basis van ingewijden.
2 uur geleden
AMSTERDAM (ANP) - AkzoNobel is maandag hoger geëindigd op de aandelenbeurs in Amsterdam. De verfproducent verkoopt zijn activiteiten op het gebied van decoratieve verf in Zuidoost-Azië en Australië aan het Japanse Nippon Paint. Met die transactie is een bedrag van ongeveer 1,4 miljard dollar gemoeid. AkzoNobel won 1,8 procent.
4 uur geleden
DEN HAAG (ANP) - Meer bedrijven in Nederland wachten op een aansluiting voor stroomgebruik op het volle net. Volgens brancheorganisatie Netbeheer Nederland stonden eind juni in totaal bijna 15.500 aanvragen op de wachtlijst bij een regionale netbeheerder. Dat waren er eind 2025 nog 15.154.
4 uur geleden
SÃO PAULO (ANP/BLOOMBERG) - Beleggers op de beurs in São Paulo reageerden maandag enthousiast op het nieuws dat Flávio Bolsonaro de eerste ronde van de Braziliaanse verkiezingen had gewonnen. Bolsonaro wordt als marktvriendelijker gezien dan opponent en zittend president Luiz Inácio Lula da Silva. Bolsonaro deed het beter dan de peilingen hadden verwacht en is nu de favoriet voor de tweede ronde later deze maand.
4 uur geleden
AMSTERDAM (ANP) - Winkelstraten in Nederland zijn in het afgelopen kwartaal opnieuw rustiger geworden, meldt onderzoeksbureau RMC. De organisatie wijt dit aan de recordhete zomer.
5 uur geleden
NEW YORK (ANP) - De Amerikaanse aandelenbeurzen zijn maandag gemengd geopend, na de winsten van vrijdag door een zwak cijfer over de banengroei in de Verenigde Staten. Door het tegenvallende banenrapport wordt de kans op een nieuwe renteverhoging door de Amerikaanse centrale bank later deze maand minder waarschijnlijk geacht.
6 uur geleden