AI van OpenAI slaat op hol en hackt zelfstandig softwareplatform
SAN FRANCISCO (ANP/AFP) - OpenAI, de maker van ChatGPT, heeft bekendgemaakt dat zijn geavanceerde modellen voor kunstmatige intelligentie tijdens veiligheidstests op hol sloegen. De AI-systemen hadden op eigen initiatief ingebroken in een populair platform voor programmeurs. Het bedrijf uit San Francisco spreekt van een "ongekend cyberincident".
Tijdens een proef probeerde OpenAI de hackcapaciteiten van de modellen te beoordelen door ze opdrachten te geven in een streng gecontroleerde digitale testomgeving. De toegang tot het internet was uit veiligheidsoverwegingen beperkt. "Terwijl ze in onze afgeschermde testomgeving opereerden, besteedden onze modellen een aanzienlijke hoeveelheid rekenkracht aan het vinden van een manier om toegang te krijgen tot het open internet, om de evaluatieopdracht op te lossen", meldt OpenAI.
Nadat ze verbinding met het internet hadden gemaakt, besloten de modellen het platform Hugging Face aan te vallen om hun doel te bereiken. Hugging Face is een grote databank met AI-modellen, datasets en andere informatie. Op zoek naar geheime informatie waarmee het de evaluatie kon omzeilen, "combineerde het OpenAI-systeem meerdere aanvalsmethoden, waaronder het gebruik van gestolen inloggegevens".
'Beangstigend'
Hoogleraar informatica Hussein Abbass zei tegen persbureau AFP dat het incident "op veel fronten opmerkelijk" was. "Het systeem viel niet alleen Hugging Face aan. Het viel ook het interne systeem aan om de eigen kwetsbaarheden daarvan uit te buiten. En dat is beangstigend", aldus de hoogleraar. Volgens hem kan het "catastrofale gevolgen" hebben als deze technologie in handen komt van iemand die kwaad wil.
De vraag hoe de AI-sector moet worden gereguleerd, is een belangrijk discussiepunt geworden. GPT-5.6 en andere geavanceerde modellen, waaronder de Mythos-serie van OpenAI's grote concurrent Anthropic, roepen zorgen op over hun vermogen om cyberbeveiligingen te omzeilen. Beide Amerikaanse bedrijven moesten de introductie van deze nieuwste technologieën tijdelijk uitstellen vanwege zorgen hierover in Washington.
Agenten
AI-modellen achter toepassingen zoals chatbots en beeldgeneratoren worden agenten genoemd wanneer ze autonoom handelen om taken in de echte wereld uit te voeren.
"Dit incident verschilde op één belangrijk punt van alles wat we eerder hadden meegemaakt: het werd van begin tot eind aangestuurd door een autonoom AI-agentsysteem. Het is behoorlijk verbijsterend", zegt Clement Delangue, de topman van Hugging Face.
Meer uit Financieel
AMSTERDAM (ANP) - De AEX-index op het Damrak is woensdag met verlies begonnen. Beleggers bleven voorzichtig door het aanhoudende geweld in het Midden-Oosten. Ook wordt uitgekeken naar de resultaten van de Amerikaanse techbedrijven Alphabet, de eigenaar van Google, IBM, Tesla en Texas Instruments, die na de slotbel op Wall Street naar buiten komen. Sterke resultaten van deze techbedrijven zouden de zorgen over de hoge investeringen in AI en de hoge koerswaarderingen in de sector kunnen wegnemen.
1 uur geleden
ROTTERDAM (ANP) - KPN heeft in het afgelopen kwartaal meer nieuwe mobiele klanten aan zich gebonden. De telecomprovider kreeg er zowel op de consumentenmarkt als de zakelijke markt meer klanten bij. Ook steeg het aantal consumenten met een breedbandaansluiting.
2 uur geleden
DIEMEN (ANP) - Uitzendconcern Randstad groeit weer na een periode van omzetdaling. In Noord-Amerika ging de omzet afgelopen maanden duidelijk omhoog en ook in diverse Europese markten was sprake van groei. Dat geeft topman Sander van 't Noordende vertrouwen voor de rest van het jaar.
2 uur geleden
AMERSFOORT (ANP) - De resultaten van FrieslandCampina stonden het afgelopen halfjaar sterk onder druk door een snel gestegen melkaanbod en de daarmee samenhangende daling van de zuivelprijzen. Volgens Jan Derck van Karnebeek, topman van het Nederlandse zuivelconcern, bleef de vraag naar producten als boter, kaas, melkpoeder en houdbare melk achter bij de hoge melkaanvoer.
2 uur geleden
OTTAWA (ANP/RTR) - Canada heeft een gezamenlijke opening met de VS van een internationale brug afgezegd wegens de dreigementen van de Amerikaanse president Donald Trump om de importtarieven voor verschillende producten met 50 procent te verhogen.
3 uur geleden
AMSTERDAM (ANP) - Verfconcern AkzoNobel heeft in het tweede kwartaal van 2026 de winstgevendheid opnieuw zien aantrekken. Het bedrijf achter verfmerken als Flexa, Dulux en Sikkens profiteerde daarbij naar eigen zeggen van prijsaanpassingen en kostenverlagingen, waardoor de winstmarge voor het vijfde kwartaal op rij verbeterde.
3 uur geleden
AMSTERDAM (ANP) - Om de bouwambities voor huurwoningen waar te maken, is verbetering van het investeringsklimaat in Nederland nodig. Dat stelt De Nederlandsche Bank (DNB) na onderzoek naar de financiering van private huurwoningen.
3 uur geleden