Rechter verbiedt uitkleedfunctie in chatbot Grok
AMSTERDAM (ANP) - De chatbot Grok mag zijn 'uitkleedfunctie' niet meer aanbieden in Nederland. De rechtbank in Amsterdam heeft de tool donderdag verboden, nadat het Fonds Slachtofferhulp en het expertisecentrum Offlimits dat hadden geëist in een kort geding.
Grok is gemaakt door xAI, het Amerikaanse bedrijf van zakenman Elon Musk. Gebruikers konden de chatbot opdracht geven om met kunstmatige intelligentie naaktbeelden te maken. Dat kunnen afbeeldingen van volwassenen zijn, maar ook van kinderen. De afgebeelde personen kunnen virtueel zijn en alleen online bestaan, maar het kan ook om nepbeelden van echte mensen gaan.
Om hun eis kracht bij te zetten, hadden Fonds Slachtofferhulp en Offlimits foto's gedeeld die ze met Grok hadden gemaakt. Daarop waren schaars geklede virtuele kinderen met volwassen mannen te zien.
Online grensoverschrijdend gedrag
Volgens de rechter is het aannemelijk dat de makers van Grok "onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag". xAI heeft controle over Grok en moet misbruik dus voorkomen, ook als de makers van het platform niet zelf de beelden creëren.
Het verbod geldt voor beelden van mensen die in Nederland wonen en voor het maken en verspreiden van de beelden in Nederland. De beide organisaties hadden een wereldwijd verbod op de 'nudification tool' geëist, maar daarin ging de rechter niet mee.
Dwangsom
De makers van Grok krijgen ook een dwangsom opgelegd. Elke dag dat de uitkleedfunctie beschikbaar is, moeten ze 100.000 euro betalen. Dat kan oplopen tot een maximaal bedrag van 10 miljoen euro. En zolang Grok zich niet aan het verbod houdt, mag de dienst ook niet worden aangeboden als onderdeel van X, het vroegere Twitter.
De advocaten van Grok zeiden bij de behandeling van het kort geding dat het bedrijf kindermisbruik wil voorkomen, maar dat het niet haalbaar is om elke vorm van misbruik te elimineren. "Er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen", stelden de advocaten.
De makers van Grok zeiden ook dat er maatregelen waren genomen om misbruik te voorkomen, maar de rechtbank veegt dat van tafel. Er is "gerede twijfel" of de maatregelen wel genoeg zijn en "wel degelijk aanleiding voor zorg".
Meer uit Binnenland
DEN HAAG (ANP) - Om de zorg verder te verduurzamen, zijn nieuwe afspraken nodig waar ook de overheid aan meewerkt. Daarvoor pleiten voormalig gezondheidsminister Ernst Kuipers, voorzitter van het Nationaal Klimaat Platform Kees Vendrik en speciaal regeringsvertegenwoordiger Circulaire Economie Steven van Eijck. Ze roepen alle betrokken bewindslieden op om "voluit door te gaan" met het ondersteunen van de verduurzaming van de sector.
27 minuten geleden
ZEIST (ANP) - De zwangere vrouw die onlangs in een azc door politieoptreden hardhandig ten val kwam, heeft van zich laten horen op de nieuwszender Al Jazeera. "Ik probeerde de agenten gewoon een vraag te stellen", zei Malak Mahmoud.
4 uur geleden
DEN HAAG (ANP) - Turkije heeft een 50-jarige Nederlander uitgeleverd aan Nederland, meldt het Openbaar Ministerie. Justitieminister David van Weel meldt op X dat het om Harry L. gaat, de broer van Bolle Jos. Hij wordt volgens het OM vervolgd voor het witwassen van "een aanzienlijke hoeveelheid geld, goud en horloges". De verdachte is onder begeleiding van de Koninklijke Marechaussee aangekomen op Schiphol en aangehouden.
11 uur geleden
MIDDELBURG (ANP) - De rechtbank in Middelburg heeft dinsdag een 40-jarige voetbaltrainer uit Vlissingen veroordeeld tot een gevangenisstraf van vijf jaar voor het jarenlang heimelijk filmen van ruim vijfhonderd jonge jongens in de kleedkamers van verschillende voetbalclubs. De rechtbank acht hem ook schuldig aan ontucht met een minderjarige jongen.
16 uur geleden
SCHIPHOL (ANP) - Het Openbaar Ministerie heeft dinsdag een levenslange celstraf geëist tegen vier verdachten in het hoger beroep van het grote liquidatieproces Marengo. De zaak draait onder meer om zes onderwereldmoorden.
17 uur geleden
DEN HAAG (ANP) - Bij uit de hand gelopen demonstraties tegen de komst van asielzoekers in Vriezenveen en Wijk bij Duurstede zijn maandagavond drie mensen aangehouden. Dat meldt de politie dinsdag. In het Overijsselse Vriezenveen ging het om twee personen, in Wijk bij Duurstede om een arrestatie.
17 uur geleden
DEN HAAG (ANP) - De Japanse keizer Naruhito brengt over twee weken een bezoek aan Delft, Leiden, Utrecht en Amstelveen. De Rijksvoorlichtingsdienst heeft dinsdag het programma bekendgemaakt.
18 uur geleden