Rechter verbiedt uitkleedfunctie in chatbot Grok
AMSTERDAM (ANP) - De chatbot Grok mag zijn 'uitkleedfunctie' niet meer aanbieden in Nederland. De rechtbank in Amsterdam heeft de tool donderdag verboden, nadat het Fonds Slachtofferhulp en het expertisecentrum Offlimits dat hadden geëist in een kort geding.
Grok is gemaakt door xAI, het Amerikaanse bedrijf van zakenman Elon Musk. Gebruikers konden de chatbot opdracht geven om met kunstmatige intelligentie naaktbeelden te maken. Dat kunnen afbeeldingen van volwassenen zijn, maar ook van kinderen. De afgebeelde personen kunnen virtueel zijn en alleen online bestaan, maar het kan ook om nepbeelden van echte mensen gaan.
Om hun eis kracht bij te zetten, hadden Fonds Slachtofferhulp en Offlimits foto's gedeeld die ze met Grok hadden gemaakt. Daarop waren schaars geklede virtuele kinderen met volwassen mannen te zien.
Online grensoverschrijdend gedrag
Volgens de rechter is het aannemelijk dat de makers van Grok "onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag". xAI heeft controle over Grok en moet misbruik dus voorkomen, ook als de makers van het platform niet zelf de beelden creëren.
Het verbod geldt voor beelden van mensen die in Nederland wonen en voor het maken en verspreiden van de beelden in Nederland. De beide organisaties hadden een wereldwijd verbod op de 'nudification tool' geëist, maar daarin ging de rechter niet mee.
Dwangsom
De makers van Grok krijgen ook een dwangsom opgelegd. Elke dag dat de uitkleedfunctie beschikbaar is, moeten ze 100.000 euro betalen. Dat kan oplopen tot een maximaal bedrag van 10 miljoen euro. En zolang Grok zich niet aan het verbod houdt, mag de dienst ook niet worden aangeboden als onderdeel van X, het vroegere Twitter.
De advocaten van Grok zeiden bij de behandeling van het kort geding dat het bedrijf kindermisbruik wil voorkomen, maar dat het niet haalbaar is om elke vorm van misbruik te elimineren. "Er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen", stelden de advocaten.
De makers van Grok zeiden ook dat er maatregelen waren genomen om misbruik te voorkomen, maar de rechtbank veegt dat van tafel. Er is "gerede twijfel" of de maatregelen wel genoeg zijn en "wel degelijk aanleiding voor zorg".
Meer uit Binnenland
AMSTERDAM (ANP) - Het is baanbrekend dat een omstreden 'uitkleedfunctie' in de chatbot Grok wordt verboden. Dat zegt Robbert Hoving, directeur van Offlimits, een kenniscentrum over onlinemisbruik. Die organisatie spande met Fonds Slachtofferhulp een kort geding aan tegen de dienst en kreeg donderdag gelijk van de rechtbank in Amsterdam.
15 minuten geleden
AMSTERDAM (ANP) - VluchtelingenWerk Nederland steunt de oproep van asielminister Bart van den Brink (CDA) aan gemeenten. De minister wil dat die met spoed nieuwe opvangplekken voor asielzoekers regelen.
19 minuten geleden
WEESP (ANP) - Criminelen gebruiken zwaardere en meer explosieven bij plofkraken op geldautomaten. Dat ziet Geldmaat, het bedrijf dat beheer en onderhoud van de automaten regelt voor de grote banken in Nederland. Na nieuwe aanvallen op zogeheten sealbagautomaten heeft Geldmaat donderdag maatregelen genomen om plofkraken te voorkomen.
1 uur geleden
AMSTERDAM (ANP) - Advocaat Bart Swier heeft voor zijn cliënt Ali B ook om vrijspraak gevraagd voor het verkrachten van zangeres Ellen ten Damme. De advocaat stelde onder meer dat een verklaring van haar toenmalige partner niet als steunbewijs kan worden gebruikt.
1 uur geleden
DEN HAAG (ANP) - Woningbouw vergt veel grondstoffen en veroorzaakt daarmee veel CO2-uitstoot en de Wetenschappelijke Klimaatraad (WKR) ziet veel mogelijkheden om het anders aan te pakken. Als in plaats van nieuwbouw meer bestaande gebouwen worden opgetopt, gesplitst of getransformeerd tot appartementen, kan dat tienduizenden woningen én klimaatwinst opleveren, schetst de raad in een rapport.
1 uur geleden
MAASTRICHT (ANP) - De provincie Limburg wil 4 miljoen euro uittrekken voor onderzoek naar het uitbreiden van de ETpathfinder in Maastricht, een soort prototype van de Einstein Telescoop. De komende vier jaar moet het complex uitgroeien tot een topinstituut voor het meten van laagfrequente zwaartekrachtgolven. Om dat zogenoemde Einstein Telescope Low Frequency Centre (ET-LFC) te realiseren is zo'n 52 miljoen euro nodig, schat de provincie.
2 uur geleden
AMSTERDAM (ANP) - De advocaat van Ali B heeft donderdag betoogd dat de rapper moet worden vrijgesproken van het aanranden van Jill Helena. Eerder op de dag zei het Openbaar Ministerie het hof ook te vragen om vrijspraak voor dit punt.
3 uur geleden