AI van OpenAI slaat op hol en hackt zelfstandig softwareplatform
SAN FRANCISCO (ANP/AFP) - OpenAI, de maker van ChatGPT, heeft bekendgemaakt dat zijn geavanceerde modellen voor kunstmatige intelligentie tijdens veiligheidstests op hol sloegen. De AI-systemen hadden op eigen initiatief ingebroken in een populair platform voor programmeurs. Het bedrijf uit San Francisco spreekt van een "ongekend cyberincident".
Tijdens een proef probeerde OpenAI de hackcapaciteiten van de modellen te beoordelen door ze opdrachten te geven in een streng gecontroleerde digitale testomgeving. De toegang tot het internet was uit veiligheidsoverwegingen beperkt. "Terwijl ze in onze afgeschermde testomgeving opereerden, besteedden onze modellen een aanzienlijke hoeveelheid rekenkracht aan het vinden van een manier om toegang te krijgen tot het open internet, om de evaluatieopdracht op te lossen", meldt OpenAI.
Nadat ze verbinding met het internet hadden gemaakt, besloten de modellen het platform Hugging Face aan te vallen om hun doel te bereiken. Hugging Face is een grote databank met AI-modellen, datasets en andere informatie. Op zoek naar geheime informatie waarmee het de evaluatie kon omzeilen, "combineerde het OpenAI-systeem meerdere aanvalsmethoden, waaronder het gebruik van gestolen inloggegevens".
'Beangstigend'
Hoogleraar informatica Hussein Abbass zei tegen persbureau AFP dat het incident "op veel fronten opmerkelijk" was. "Het systeem viel niet alleen Hugging Face aan. Het viel ook het interne systeem aan om de eigen kwetsbaarheden daarvan uit te buiten. En dat is beangstigend", aldus de hoogleraar. Volgens hem kan het "catastrofale gevolgen" hebben als deze technologie in handen komt van iemand die kwaad wil.
De vraag hoe de AI-sector moet worden gereguleerd, is een belangrijk discussiepunt geworden. GPT-5.6 en andere geavanceerde modellen, waaronder de Mythos-serie van OpenAI's grote concurrent Anthropic, roepen zorgen op over hun vermogen om cyberbeveiligingen te omzeilen. Beide Amerikaanse bedrijven moesten de introductie van deze nieuwste technologieën tijdelijk uitstellen vanwege zorgen hierover in Washington.
Agenten
AI-modellen achter toepassingen zoals chatbots en beeldgeneratoren worden agenten genoemd wanneer ze autonoom handelen om taken in de echte wereld uit te voeren.
"Dit incident verschilde op één belangrijk punt van alles wat we eerder hadden meegemaakt: het werd van begin tot eind aangestuurd door een autonoom AI-agentsysteem. Het is behoorlijk verbijsterend", zegt Clement Delangue, de topman van Hugging Face.
Meer uit Financieel
SAN FRANCISCO (ANP) - AI-bedrijf Anthropic wil mogelijk al halverwege november naar de beurs, meldt persbureau Bloomberg op basis van anonieme bronnen. Het bedrijf achter chatbot Claude had zijn beursplannen eerder uitgesteld.
43 minuten geleden
AMSTERDAM (ANP) - De kabinetsplannen om kleine beleggers zwaarder te belasten, botsen met de Europese ambitie om juist meer mensen aan het beleggen te krijgen, vindt René van Vlerken, topman van beursuitbater Euronext. Dat is het bedrijf achter onder meer de Amsterdamse beurs.
47 minuten geleden
BRUSSEL (ANP/RTR/AFP) - Eurocommissaris Maroš Šefčovič (Handel) heeft met de Amerikaanse handelsgezant Jamieson Greer gesproken over de krappe dieselvoorraden en hoge prijzen. Daarbij gaf hij aan dat Europa streeft naar een gecoördineerde aanpak om de prijzen te verlagen.
1 uur geleden
GORINCHEM (ANP) - Hans Anders heeft de verkoop van de AI- en camerabril van Meta voor onbepaalde tijd opgeschort, bevestigt een woordvoerder van de optiekketen na berichtgeving door het AD. Aanleiding is de "publieke en politieke discussie over slimme brillen" en "de vragen die daarbij spelen over de voorwaarden waaronder deze technologie kan worden gebruikt".
2 uur geleden
FRANKFURT (ANP) - Het is niet langer mogelijk om de economische impact van klimaatverandering te ontkennen, zei president Olaf Sleijpen van De Nederlandsche Bank (DNB) tijdens een toespraak in Frankfurt. "We zien het, we voelen het, we kunnen het meten. Dat heeft niets met ideologie te maken, dat is de realiteit."
3 uur geleden
AMSTERDAM (ANP) - De aandelenbeurs in Amsterdam is donderdag met een fors verlies gesloten. Ook op andere Europese beurzen waren aanzienlijke minnen te zien, na een verdere stijging van de olieprijzen en de rentes. Beleggers maken zich al een tijdlang zorgen over de door de Iranoorlog gestegen energieprijzen, omdat die de inflatie en leenkosten kunnen stuwen.
3 uur geleden
LONDEN (ANP) - Het Internationaal Strafhof (ICC) in Den Haag en verzekeraar Axa hebben hun banden verbroken, meldt de Financial Times (FT). Daarmee bereiden ze zich voor op eventuele Amerikaanse sancties tegen het strafhof. Beide partijen vreesden dat eventuele maatregelen van de VS Axa zouden dwingen de dienstverlening aan het ICC te staken, en dat willen ze voor zijn.
4 uur geleden