Roep in Verenigde Staten om nieuwe regels voor regulering van AI
WASHINGTON (ANP/RTR) - Steeds meer Amerikaanse politici dringen aan op nieuwe regels om AI-systemen aan banden te leggen. De oproepen volgen op waarschuwingen van twee onderzoekers van Anthropic, die stellen dat de snelle opmars van kunstmatige intelligentie (AI) in de nabije toekomst kan leiden tot het uitsterven van de mensheid.
De bezorgdheid over de mogelijke gevaren van AI liep deze week hoog op toen Anthropic-onderzoeker Jacob Coxon bekendmaakte dat hij was opgestapt. Volgens hem geloven de "mensen die AI bouwen er oprecht in dat het ons allemaal kan uitroeien voor het einde van dit decennium".
Anthropic-wetenschapper Evan Hubinger zei vervolgens dat Coxon gelijk heeft. "We geloven er echt in dat AI alle mensen kan doden", schreef Hubinger op X. "Ik denk persoonlijk dat de kans meer dan 10 procent is in de komende tien jaar."
Hacken
De afgelopen tijd waren er incidenten waarbij AI-agenten op eigen houtje externe systemen hackten en AI-veiligheidsonderzoekers uit zorg over de risico's van de technologie hun bedrijf verlieten.
Democratische en Republikeinse leden van het Congres reageerden verontrust. "Washington moet wakker worden en dit serieus nemen", zei de Democratische senator Mark Kelly uit Arizona op X, verwijzend naar de risico's van AI-technologie.
Wetgeving
De Texaanse senator Ted Cruz wees in een tv-programma op wetgeving om de "catastrofale risico's" van AI te reguleren. Een Republikeinse afgevaardigde uit Florida riep op haar beurt op tot het bijeenroepen van een "speciale zitting over AI".
De Amerikaanse president Donald Trump zei dat hij zich geen zorgen maakt over de mogelijkheid dat AI tot de uitroeiing van de mensheid leidt. "Ik maak me wel zorgen dat we in een heel slechte positie komen als we de AI-race niet winnen."
Rapport
Anthropic kwam ook met een nieuw rapport waarin het beschrijft hoe mensen de afgelopen maanden hebben geprobeerd AI-assistent Claude te misbruiken, bijvoorbeeld voor cyberaanvallen, surveillance en het bouwen van wapens. "De gevallen variëren van een netwerk van nepdating-apps die zijn ontworpen om gebruikers op te lichten tot surveillancesystemen die zijn gebouwd om dissidenten te identificeren en in de gaten te houden", schrijft het AI-bedrijf.
"Geavanceerde en volhardende kwaadwillenden testen voortdurend onze beveiligingsmaatregelen en proberen de technische middelen te omzeilen die we gebruiken om misbruik te detecteren en te voorkomen", aldus Anthropic. "We blijven onze beveiliging aanscherpen."
Meer uit Financieel
NEW YORK (ANP) - De aandelenbeurzen in New York zijn vrijdag met zware koersverliezen gesloten, met rake klappen voor Anthropic, Nvidia en andere chipbedrijven. Anthropic maakte een dag eerder nog een succesvol debuut op Wall Street met de grootste beursgang ooit. Maar de zorgen bij beleggers over de winstgevendheid van de enorme AI-investeringen staken nu weer de kop op.
23 minuten geledenNEW YORK (ANP/BLOOMBERG) - De verkoop van het nieuwe computerspel Grand Theft Auto VI heeft donderdag, de eerste dag van de release, 3,79 miljard dollar aan omzet opgeleverd. Dat meldt ontwikkelaar Rockstar Games. Volgens het bedrijf is daarmee een record gevestigd bij de verkoop van een nieuw computerspel.
50 minuten geledenWASHINGTON (ANP/AFP/BLOOMBERG) - De Amerikaanse president Donald Trump vindt dat AI-chipconcern Nvidia voormalig topman Jensen Huang een "tweede kans" moet geven. Huang trad vorige week af bij Nvidia vanwege meerdere affaires, waaronder met een vermeende Chinese spion.
54 minuten geledenNEW YORK (ANP) - AI-bedrijf Anthropic was vrijdag een grote verliezer op de aandelenbeurzen in New York, een dag na de recordbeursgang van de maker van chatbot Claude. Het aandeel kelderde bijna 14 procent, waarmee de koerswinst van 17 procent op donderdag bijna volledig in rook is opgegaan.
3 uur geledenAMSTERDAM (ANP) - De Amsterdamse AEX-index is vrijdag met een flinke min gesloten, mede onder druk van forse koersverliezen voor de chipbedrijven op het Damrak. De zorgen of de enorme investeringen in AI kunnen worden terugverdiend keerden weer terug onder beleggers, ondanks de recordbeursgang van AI-bedrijf Anthropic op donderdag. Op Wall Street ging Anthropic, de maker van chatbot Claude, vrijdag echter stevig onderuit.
4 uur geledenAMSTERDAM (ANP) - Een groep van zeven omwonenden van Tata Steel in IJmuiden en stichting FrisseWind.nu willen als slachtoffer worden aangemerkt in de strafzaak van het Openbaar Ministerie tegen de staalfabrikant. Zij zeggen de rechtbank op die manier zo goed mogelijk te willen informeren over de gevolgen voor de omgeving van vervuiling door de staalfabriek.
6 uur geledenNEW YORK (ANP) - AI-bedrijf Anthropic ging vrijdag omlaag op de beurzen in New York. De maker van chatbot Claude steeg donderdag bij zijn recordbeursdebuut nog 17 procent, maar moest nu ruim 9 procent inleveren. Ook de algehele stemming op Wall Street was overwegend negatief, nadat het spectaculaire marktdebuut van Anthropic er niet in slaagde het vertrouwen in de AI-sector te herstellen.
7 uur geleden