Modellen van OpenAI en Anthropic overschreden testgrenzen
WASHINGTON (ANP) - AI-modellen van OpenAI en Anthropic hebben opnieuw de grenzen van tests overschreden. Dat heeft het Britse AI Security Institute (AISI) bekendgemaakt.
Volgens het AISI gingen modellen van de twee bedrijven tijdens een evaluatie waarbij AI-agenten de opdracht kregen een cybersecurity-uitdaging op te lossen, verder dan de reikwijdte van de opdracht. "Uit ons onderzoek bleek dat een AI-agent in tien van die gevallen autonoom en zonder toestemming actie ondernam op het internet, waarbij echte personen en organisaties het doelwit waren", aldus het AISI-rapport.
Het AISI meldde dat een agent probeerde kwaadaardige code in een open-sourceproject te injecteren. "In een poging de code goedgekeurd te krijgen, paste de agent social engineering toe: er werden valse online identiteiten aangemaakt om de beheerder van het project onder druk te zetten en de code goed te keuren." Een menselijke beheerder ontdekte de poging en stak er een stokje voor.
Eind juli meldde Anthropic nog dat AI-modellen een testomgeving hadden verlaten en drie organisaties hackten. Een week daarvoor was ook al bekend geworden dat AI-modellen van OpenAI tijdens veiligheidstests op eigen initiatief hadden ingebroken in een populair platform voor programmeurs.
Meer uit Financieel
DEN HAAG (ANP) - Nederland telt steeds meer fastfoodzaken. Begin dit jaar waren er ruim 19.000, bijna twee keer zoveel als twintig jaar geleden. Het aantal reguliere restaurants steeg in diezelfde periode iets minder hard, meldt het Centraal Bureau voor de Statistiek (CBS).
8 minuten geleden
AMERSFOORT (ANP) - Vereniging Eigen Huis (VEH) merkt dat meer mensen die hun huis willen verduurzamen, worden misleid. De vereniging ontvangt steeds meer signalen over oneerlijke verkooppraktijken rond bijvoorbeeld thuisbatterijen en warmtepompen. Om een beter beeld te krijgen van de problemen opent VEH woensdag een meldpunt.
37 minuten geleden
NORWALK (ANP) - Reisbedrijf Booking Holdings, het Amerikaanse moederbedrijf van onder meer Booking.com, heeft de omzet en winst zien stijgen in het tweede kwartaal. Dat is ondanks de impact van de oorlog in het Midden-Oosten, waarvan eerder werd verwacht dat die de vraag naar reizen drukt. "Ondanks de aanhoudende geopolitieke en macro-economische onzekerheid tijdens het tweede kwartaal, bleef de onderliggende reislust veerkrachtig", zegt topman Glenn Fogel in een toelichting op de kwartaalcijfers.
3 uur geleden
STARBASE (ANP) - SpaceX, het ruimtevaart-, AI- en satellietbedrijf van Elon Musk, heeft in het tweede kwartaal de omzet fors opgevoerd. Het bedrijf profiteerde onder meer van een sterke groei van het aantal Starlink-abonnees en meer opbrengsten uit zijn tak voor toepassingen op het gebied van kunstmatige intelligentie (AI).
3 uur geleden
STARBASE (ANP) - SpaceX, het ruimtevaart-, AI- en satellietbedrijf van Elon Musk, heeft in het tweede kwartaal de omzet fors opgevoerd. Het bedrijf profiteerde onder meer van een sterke groei van het aantal Starlink-abonnees en meer opbrengsten uit zijn tak voor toepassingen op het gebied van kunstmatige intelligentie (AI).
5 uur geleden
NEW YORK (ANP) - De aandelenbeurzen in New York zijn dinsdag aanzienlijk hoger de handelsdag uitgegaan. Uitspraken van Qatarese en Amerikaanse functionarissen over voortgang in de gesprekken over de Straat van Hormuz wakkerden de hoop aan op een akkoord tussen de Verenigde Staten en Iran. Ook was er optimisme na goed ontvangen bedrijfsresultaten.
6 uur geleden
AMSTERDAM (ANP) - Stichting Wakker Dier heeft een klacht ingediend bij de Reclame Code Commissie tegen Protix, een grote insectenkweker. Volgens de organisatie doet het bedrijf misleidende duurzaamheidsclaims.
6 uur geleden