Rechter verbiedt uitkleedfunctie in chatbot Grok
AMSTERDAM (ANP) - De chatbot Grok mag zijn 'uitkleedfunctie' niet meer aanbieden in Nederland. De rechtbank in Amsterdam heeft de tool donderdag verboden, nadat het Fonds Slachtofferhulp en het expertisecentrum Offlimits dat hadden geëist in een kort geding.
Grok is gemaakt door xAI, het Amerikaanse bedrijf van zakenman Elon Musk. Gebruikers konden de chatbot opdracht geven om met kunstmatige intelligentie naaktbeelden te maken. Dat kunnen afbeeldingen van volwassenen zijn, maar ook van kinderen. De afgebeelde personen kunnen virtueel zijn en alleen online bestaan, maar het kan ook om nepbeelden van echte mensen gaan.
Om hun eis kracht bij te zetten, hadden Fonds Slachtofferhulp en Offlimits foto's gedeeld die ze met Grok hadden gemaakt. Daarop waren schaars geklede virtuele kinderen met volwassen mannen te zien.
Online grensoverschrijdend gedrag
Volgens de rechter is het aannemelijk dat de makers van Grok "onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag". xAI heeft controle over Grok en moet misbruik dus voorkomen, ook als de makers van het platform niet zelf de beelden creëren.
Het verbod geldt voor beelden van mensen die in Nederland wonen en voor het maken en verspreiden van de beelden in Nederland. De beide organisaties hadden een wereldwijd verbod op de 'nudification tool' geëist, maar daarin ging de rechter niet mee.
Dwangsom
De makers van Grok krijgen ook een dwangsom opgelegd. Elke dag dat de uitkleedfunctie beschikbaar is, moeten ze 100.000 euro betalen. Dat kan oplopen tot een maximaal bedrag van 10 miljoen euro. En zolang Grok zich niet aan het verbod houdt, mag de dienst ook niet worden aangeboden als onderdeel van X, het vroegere Twitter.
De advocaten van Grok zeiden bij de behandeling van het kort geding dat het bedrijf kindermisbruik wil voorkomen, maar dat het niet haalbaar is om elke vorm van misbruik te elimineren. "Er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen", stelden de advocaten.
De makers van Grok zeiden ook dat er maatregelen waren genomen om misbruik te voorkomen, maar de rechtbank veegt dat van tafel. Er is "gerede twijfel" of de maatregelen wel genoeg zijn en "wel degelijk aanleiding voor zorg".
Meer uit Binnenland
UTRECHT (ANP) - Buschauffeurs en treinpersoneel in het streekvervoer leggen donderdag opnieuw het werk neer. Dat melden vakbonden FNV en CNV. Het is de tweede landelijke staking in het streekvervoer als gevolg van de vastgelopen onderhandelingen voor een nieuwe cao.
43 minuten geleden
DEN HAAG (ANP) - Frans Timmermans wordt de nieuwe voorzitter van de raad van toezicht van de Dierenbescherming. Afgelopen weekend heeft de ledenraad ingestemd met zijn voordracht, meldt de organisatie.
3 uur geleden
DEN HAAG (ANP) - Onder het motto 'Laat je niet interneppen' start maandag een campagne om mensen te wijzen op de gevaren van online-misleiding en - oplichting. Denk altijd drie tellen na voordat je klikt, reageert of betaalt, is de gedachte. En als je twijfelt, klik dan weg.
6 uur geleden
AMSTERDAM (ANP) - Landen moeten meer doen en beter samenwerken om kwetsbare ecosystemen in internationale wateren te beschermen. Dat stelt Greenpeace op de dag dat in de Armeense hoofdstad Jerevan een VN-biodiversiteitstop begint.
11 uur geleden
HOUTEN (ANP) - Het is zondag op geen enkel weerstation in Nederland warmer geworden dan 15 graden. Dat is volgens Weeronline voor het eerst sinds 16 mei, waardoor een reeks van 155 dagen op rij met een temperatuur van 15 graden of hoger ergens in Nederland ten einde komt.
20 uur geleden
UTRECHT (ANP) - Onder begeleiding van één trom is een 'rouwstoet' met zo'n vijfhonderd mensen zondag door Utrecht getrokken. De aanwezigen herdachten de ruim 21.630 gedode Palestijnse kinderen. 'Ieder kind heeft een naam', was te lezen op een spandoek van Getuigen van Gaza.
21 uur geleden
ENSCHEDE (ANP) - Het onderzoek naar enkele onwelwordingen zaterdagmiddag tijdens een rondleiding in de Grolsch-fabriek in Enschede loopt nog. Mogelijk is er pas na het weekend iets te zeggen over de oorzaak, meldt de politie zondag.
1 dag geleden