In navolging van Groot-Brittannië, India en Frankrijk komt nu ook de Europese Commissie in actie tegen Elon Musks AI-chatbot Grok. De tool zou worden misbruikt om seksueel expliciete en niet-consensuele afbeeldingen te genereren. Een onderzoek moet uitwijzen of Grok de socialemediawetgeving DSA schendt.
Geen advertenties meer?
Ingelogde abonnees steunen niet alleen een van de enige kritische en onafhankelijke media, maar zien ook geen vervelende advertenties. Abonneer je snel en eenvoudig en krijg meteen toegang tot vele duizenden exclusieve artikelen!
Maak hieronder je keuze voor het gewenste abonnement:
Liever ook op papier? Bekijk alle abonnementen!
Het doorlopend abonnement wordt automatisch verlengd voor steeds één maand.
Liever ook op papier? Bekijk al onze abonnementen!
Steun het vrije woord met een online abonnement van 3 maanden via een eenmalige betaling.
Liever ook op papier? Bekijk al onze abonnementen!
Steun het vrije woord met een eenmalige betaling en je zit een jaar goed.
Log hieronder in om dit bericht volledig te lezen. Ben je al ingelogd, kijk dan op je account of je nog een actief abonnement hebt.
De discussie laait hoog op. Blijkbaar kon je Grok de opdracht geven om seksueel expliciete en niet-consensuele afbeeldingen te produceren. Privacy-activist Matthias Dobbelaere-Welvaert demonstreerde aan journalisten hoe je bijvoorbeeld Elon Musk in een speedo kon laten afbeelden. Bij ChatGPT weigert de AI-chatbot gewoon dergelijke verzoeken. Maleisië en Indonesië blokkeerden Grok al helemaal, wat de groeiende wereldwijde bezorgdheid weerspiegelt over generatieve AI-tools die realistische maar problematische content kunnen produceren.
Deepfakes: van celebrities naar Grok
Seksueel getinte deepfakes vormen al langer een probleem, aanvankelijk vooral voor bekende vrouwen. Taylor Swift, Bella Poarch, Emma Watson en de Belgische Celine Van Ouytsel werden wereldwijd getroffen door deepnudes die viraal gingen. In 2017 begon het fenomeen op Reddit met deepfake-porno van celebrities, in 99 procent van de gevallen vrouwen. Nu duikt het probleem op bij X, al ontbreken concrete voorbeelden in de mediaberichten. De kern van de kritiek: xAI mist effectieve waarborgen om te voorkomen dat gebruikers pornografische inhoud maken en verspreiden op basis van echte foto’s.
Dit komt de Europese Commissie uitstekend uit, want die viseerde X al om diverse redenen. De Commissie maakte recent bekend ook Grok onder de loep te nemen en spreekt nu expliciet over de deepfakes. Een omgekeerde volgorde die suggereert dat Brussel dankbaar gebruik maakt van de internationale heisa. Het bedrijf achter Grok, xAI, reageerde pas nadat de autoriteiten zich ermee hadden bemoeid. Vorige week beperkte Grok het genereren van afbeeldingen tot betalende gebruikers.
Met een marktaandeel van slechts 3 procent blijft Grok ver achter bij marktleider ChatGPT die 68 procent domineert. De in 2023 gelanceerde chatbot is gratis te gebruiken op X en pakte afgelopen zomer uit met een ‘spicy mode’ waarmee inhoud voor volwassenen kon worden gegenereerd. Juist die functionaliteit zint de Europese Unie, Groot-Brittannië, India en Frankrijk niet.
