OpenAI-wetenschapper verwacht en hoopt vertraging ontwikkeling AI
SAN FRANCISCO (ANP/BLOOMBERG) - De topwetenschapper van OpenAI, Jakub Pachocki, waarschuwt dat kunstmatige intelligentie zich zo snel ontwikkelt dat het steeds moeilijker wordt voor mensen om het te begrijpen. Hij stelt daarom dat AI-laboratoria de ontwikkeling vrijwillig moeten gaan vertragen vanwege veiligheidsredenen.
"Dit is een tijd die extreme voorzichtigheid vraagt", schrijft Pachocki. "Ik ben bezorgd dat niemand voorbereid is op de gevolgen van een voortdurende snelle groei van intelligentie van machines." Hij hoopt dan ook dat ontwikkelaars van AI beter afstemmen op menselijke belangen en de ontwikkeling van AI vertragen "waar nodig". "Ik verwacht en hoop dat vrijwillige vertragingen de norm zullen worden totdat er gedeelde veiligheidsnormen zijn vastgesteld."
De uitspraken volgen ruim een maand nadat de AI-modellen van OpenAI tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dit was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken. Beveiligingsmaatregelen die normaal in de producten van OpenAI worden gebruikt, waren uitgeschakeld, aldus het rapport. De modellen misten daarmee systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.
Rapport
In een rapport over de hack toonde het bedrijf zich eerder al schuldbewust over het incident. "We hadden eerder kunnen ingrijpen op de onbedoelde hack. Achteraf bezien hadden sommige vroege signalen die in dit rapport worden genoemd, een eerdere reactie kunnen uitlokken", aldus OpenAI.
De hack zorgde voor opschudding in de technologiewereld. Overheden en leiders van techbedrijven riepen na het incident op tot beperkingen op de technologie.
Meer uit Financieel
DÜSSELDORF (ANP) - Het moederbedrijf van elektronicaketen MediaMarkt, Ceconomy, heeft afgelopen boekjaar meer omzet behaald. Het bedrijf overtrof ook zijn eigen winstverwachtingen. Dat meldt het Duitse bedrijf in voorlopige cijfers over het gebroken boekjaar dat eind september afliep.
13 minuten geleden
UTRECHT (ANP) - Banken moeten vanaf volgend jaar rekening houden met mogelijke funderingsproblemen bij huizen als ze hypotheken verstrekken met de Nationale Hypotheek Garantie (NHG). Dat kan als gevolg hebben dat huizenkopers minder kunnen lenen bij funderingsrisico's.
30 minuten geleden
AMSTERDAM (ANP) - Besi behoorde dinsdag tot de grote winnaars op de Amsterdamse beurs. Het Amerikaanse Applied Materials breidt zijn belang in de Nederlandse chiptoeleverancier uit tot ongeveer 20 procent. De grootste fabrikant van chipapparatuur in de Verenigde Staten heeft sinds vorig jaar al een belang van 9 procent in Besi en wil de samenwerking tussen de twee bedrijven versterken. Een volledige overname is volgens het bedrijf niet aan de orde. Besi werd 8 procent hoger gezet en was de sterkste stijger in de AEX-index.
1 uur geleden
UTRECHT (ANP) - De Autoriteit Consument & Markt (ACM) geeft geen goedkeuring voor de overname van Unox door Zwanenberg. Door de overname zou Zwanenberg vrijwel de enige grote aanbieder worden van rookworsten en kookworsten, waaronder knakworsten, in supermarkten in Nederland, aldus de ACM. Ook zou het concern op het gebied van houdbare soepen een te sterke positie krijgen.
1 uur geleden
AMSTERDAM (ANP) - Het Nederlandse advies- en ingenieursbureau Arcadis helpt industrieconcern 3M bij het saneren van het met PFAS vervuilde gebied rondom een fabriek in het Belgische Zwijndrecht. Arcadis heeft de opdracht binnengehaald om het hele project te coördineren namens 3M, maakte het bedrijf bekend.
2 uur geleden
AMSTERDAM (ANP) - Nederlandse huishoudens bezaten eind juni voor 3,2 miljard euro aan bitcoins en andere cryptomunten via Nederlandse aanbieders van cryptodiensten. Dat blijkt uit cijfers die De Nederlandsche Bank (DNB) voor het eerst publiceert. De waarde van de crypto's is in het tweede kwartaal wel gedaald ten opzichte van het eerste kwartaal.
2 uur geleden
AMSTERDAM (ANP/BLOOMBERG) - Muziekconcern Universal Music Group (UMG) heeft eerder dit jaar gesprekken gevoerd met grote investeerders om van de Amsterdamse aandelenbeurs gehaald te worden. Dat melden bronnen aan persbureau Bloomberg. UMG, dat beroemde artiesten vertegenwoordigt als Taylor Swift, Billie Eilish en Harry Styles, sprak daarbij met investeringsmaatschappijen als Apollo Global Management, TPG en Blackstone.
2 uur geleden