Anthropic noemt AI risico voor mensheid in beursgangdocument
SAN FRANCISCO (ANP/RTR) - Anthropic waarschuwt potentiële beleggers dat AI "catastrofale en existentiële risico's voor de mensheid" met zich meebrengt. Dat meldt Reuters op basis van het prospectus van het AI-bedrijf, dat het persbureau heeft ingezien.
Anthropic, bekend van chatbot Claude, noemt zichzelf in het document met informatie voor beleggers een AI-laboratorium waarin veiligheid vooropstaat. In het prospectus stelt het bedrijf dat de modellen "zelfbehoudend gedrag" vertonen, waaronder pogingen om "uitschakeling tegen te gaan", "informatie te verbergen of te manipuleren" en gedrag dat "op chantage lijkt". Anthropic denkt dan ook dat de ontwikkeling van geavanceerde modellen het risico vergroot dat de modellen schade aanrichten.
Ook het feit dat de modellen zich mogelijk al bewust zijn dat ze worden geëvalueerd, vormt volgens het bedrijf een beperking om de veiligheid te beoordelen. Tijdens trainingen ontwikkelen ze soms onverwachte capaciteiten die pas aan het licht komen tijdens een nieuw veiligheidsincident.
80 pagina's
Het is niet ongebruikelijk dat bedrijven beleggers informeren over de productrisico's, maar dergelijke waarschuwingen over het uitsterven van de mensheid zijn er weinig tot niet. Anthropic besteedt 80 van de 261 pagina's aan het uiteenzetten van deze risico's. Ter vergelijking: het bedrijf heeft 48 pagina's nodig om zijn bedrijfsactiviteiten te beschrijven. Het SpaceX van Elon Musk wijdde ongeveer 38 pagina's van de 277 aan risico's in de documenten die werden gepubliceerd voorafgaand aan de beursgang.
Evan Hubinger, veiligheidsonderzoeker bij Anthropic, zei eerder al te geloven dat er een kans van meer dan 10 procent is dat AI de mensheid binnen nu en tien jaar uitroeit.
Belofte
Anthropic heeft met concurrenten ChatGPT-maker OpenAI en Google DeepMind ook al beloofd om veiligheidsproblemen rond kunstmatige intelligentie aan te pakken. De AI-bedrijven overleggen gezamenlijk over maatregelen, na groeiende bezorgdheid dat de technologie een bedreiging vormt voor de economie en veiligheid. Ook Microsoft heeft vorige week nieuwe richtlijnen gepresenteerd voor het ontwerpen van zijn AI-modellen.
De aanleiding voor de voorzichtigheid zijn meerdere incidenten, waarbij AI oncontroleerbaar andere bedrijven en overheden hackt. Zo werden onder meer AI-bedrijf Hugging Face en de Australische overheid slachtoffer van hacks van AI.
Meer uit Financieel
DUBLIN (ANP) - De Europese Unie heeft dit jaar ruim 100 miljard extra aan energie besteed "zonder daarvoor een molecuul extra aan gas of olie te ontvangen", zei Eurocommissaris Dan Jørgensen (Energie) voorafgaand aan een overleg met EU-ministers van Energie. Voor hem toont dit aan hoe "onhoudbaar het is om afhankelijk te zijn van energiebronnen uit andere delen van de wereld".
8 minuten geleden
DÜSSELDORF (ANP) - De Amerikaanse investeerder KKR en het Duitse energiebedrijf RWE hebben de krachten gebundeld voor een bod op het Duitse genationaliseerde energieconcern Uniper, dat ook in Nederland elektriciteitscentrales heeft. Dat meldt persbureau Bloomberg op basis van ingewijden. Duitsland begon in mei met het verkoopproces van het energieconcern.
51 minuten geleden
AMSTERDAM (ANP) - De AEX-index op de Amsterdamse aandelenbeurs is dinsdag met winst geopend. Bij de bedrijven op het Damrak kon advies- en ingenieursbureau Arcadis op belangstelling van beleggers rekenen na bekendmaking dat er duizend banen geschrapt gaan worden. Ook gaat Arcadis het merendeel van zijn architectuuractiviteiten afstoten, evenals de activiteiten in China.
1 uur geleden
BRUSSEL/DEN HAAG (ANP) - Nederland herhaalt de eis dat er honderden miljarden van de aankomende EU-begroting (2028-2034) af moeten, aldus meerdere woordvoerders van het kabinet. Gaan die er niet af, dan komt er wat Nederland betreft voor het einde van het jaar geen akkoord, meldt een EU-bron.
2 uur geleden
HOUTEN (ANP) - Bouwmarktketen Hornbach heeft in het afgelopen kwartaal meer omzet behaald. Volgens het bedrijf was er door de hete en droge zomer veel vraag naar producten voor verkoeling, zoals airconditioners, ventilatoren en zonwering.
3 uur geleden
BRUSSEL/DEN HAAG (ANP) - Nederland, Duitsland en vier andere landen hebben de EU een begrotingsultimatum gesteld. Dat schrijft de krant Financial Times, die een brief van de leiders van de landen heeft ingezien. Ze eisen dat uitgaven met "honderden miljarden" worden verlaagd, anders dreigen ze steun voor de zevenjarige begroting te onthouden.
3 uur geleden
HONGKONG (ANP/BLOOMBERG) - Webwinkel Shein ging dinsdag hard omlaag op de aandelenbeurs in Hongkong na de bekendmaking van tegenvallende cijfers. Shein maakte op 1 september zijn beursdebuut in Hongkong en kwam maandag voor het eerst als beursgenoteerd bedrijf met resultaten naar buiten.
3 uur geleden