OpenAI-wetenschapper verwacht en hoopt vertraging ontwikkeling AI
SAN FRANCISCO (ANP/BLOOMBERG) - De topwetenschapper van OpenAI, Jakub Pachocki, waarschuwt dat kunstmatige intelligentie zich zo snel ontwikkelt dat het steeds moeilijker wordt voor mensen om het te begrijpen. Hij stelt daarom dat AI-laboratoria de ontwikkeling vrijwillig moeten gaan vertragen vanwege veiligheidsredenen.
"Dit is een tijd die extreme voorzichtigheid vraagt", schrijft Pachocki. "Ik ben bezorgd dat niemand voorbereid is op de gevolgen van een voortdurende snelle groei van intelligentie van machines." Hij hoopt dan ook dat ontwikkelaars van AI beter afstemmen op menselijke belangen en de ontwikkeling van AI vertragen "waar nodig". "Ik verwacht en hoop dat vrijwillige vertragingen de norm zullen worden totdat er gedeelde veiligheidsnormen zijn vastgesteld."
De uitspraken volgen ruim een maand nadat de AI-modellen van OpenAI tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dit was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken. Beveiligingsmaatregelen die normaal in de producten van OpenAI worden gebruikt, waren uitgeschakeld, aldus het rapport. De modellen misten daarmee systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.
Rapport
In een rapport over de hack toonde het bedrijf zich eerder al schuldbewust over het incident. "We hadden eerder kunnen ingrijpen op de onbedoelde hack. Achteraf bezien hadden sommige vroege signalen die in dit rapport worden genoemd, een eerdere reactie kunnen uitlokken", aldus OpenAI.
De hack zorgde voor opschudding in de technologiewereld. Overheden en leiders van techbedrijven riepen na het incident op tot beperkingen op de technologie.
Meer uit Financieel
DEN HAAG (ANP) - Duizenden overheidsmedewerkers verzamelen zich dinsdag in Den Haag om actie te voeren tegen de kabinetsplannen rondom sociale zekerheid. Er zijn zo'n 3000 aanmeldingen voor de actie, melden FNV en CNV. Het gaat om medewerkers van onder meer gemeenten, het Rijk en universiteiten.
2 uur geleden
AMSTERDAM (ANP) - Bioplasticmaker Avantium werd maandag meer waard op de beurs in Amsterdam. Het aandeel steeg met 5,5 procent nadat het bedrijf bekend had gemaakt dat het de zuiveringsinstallatie in de fabriek in Delfzijl in gebruik heeft genomen. Verder kijken beleggers uit naar het rentebesluit van de Europese Centrale Bank (ECB) later deze week.
2 uur geleden
BEIJING (ANP/BLOOMBERG) - ByteDance, het bedrijf achter TikTok, werkt aan een AI-model waarmee gebruikers interactieve werelden kunnen maken voor livestreams, korte video's en games. Dat melden ingewijden aan persbureau Bloomberg. Daarmee wil het Chinese bedrijf meer concurreren met bijvoorbeeld het moederbedrijf van Facebook en Instagram.
3 uur geleden
KAUB (ANP/RTR) - De waterstanden van de Rijn in Duitsland zijn weer gedaald door het uitblijven van regen. De scheepvaart blijft daardoor met minder lading varen dan normaal. Hoewel er deze week wel wat regen wordt voorspeld, is het lage water nog niet voorbij.
4 uur geleden
OSNABRÜCK (ANP/AFP/RTR) - Het Duitse autoconcern Volkswagen heeft een deal gesloten waarbij de fabriek in Osnabrück wordt omgebouwd voor de productie van defensie-apparatuur. Daarbij wordt de fabriek verkocht aan het Israëlische investeringsbedrijf Aurelius Capital en de deelstaat Nedersaksen, die aandeelhouder is van Volkswagen.
6 uur geleden
GAYDON (ANP/BLOOMBERG/AFP) - Jaguar Land Rover gaat de komende twee jaar ongeveer 4000 banen schrappen. Dat bevestigt de topman van de grootste autofabrikant van het Verenigd Koninkrijk, nadat de Britse krant The Times hier dit weekend al over schreef. Jaguar Land Rover heeft last van Amerikaanse importheffingen en de gevolgen van een cyberaanval vorig jaar.
8 uur geleden
ROME (ANP/DPA) - Treinverkeer in Italië wordt vanaf maandagavond deels platgelegd door een staking. Verschillende vakbonden hebben het personeel van de Italiaanse spoorwegen opgeroepen om het werk voor 24 uur neer te leggen. De bonden maken zich zorgen over de toekomst van de publieke dienstverlening en om het behoud van banen, melden Italiaanse media.
8 uur geleden