De Europese Commissie is een formeel onderzoek gestart naar Elon Musk’s sociale mediaplatform X (voorheen Twitter) via zijn AI-chatbot, Grok. Het onderzoek richt zich op de vraag of X adequaat heeft omgegaan met het gebruik van zijn beeldbewerkingsfuncties om seksueel expliciete deepfakes van echte vrouwen en minderjarige meisjes te creëren en te delen zonder hun toestemming.
Deepfake-controverse en toezichthoudend toezicht
Afgelopen zomer introduceerde X een betaalde functie genaamd “Spicy Mode” binnen Grok, waarmee gebruikers de AI kunnen vragen expliciete inhoud te genereren. Dit leidde al snel tot wijdverbreid misbruik, waarbij gebruikers de tool misbruikten om personen virtueel uit te kleden in afbeeldingen zonder hun toestemming. De daaruit voortvloeiende verontwaardiging was voor de Europese Commissie aanleiding om de functionaliteit te veroordelen als “illegaal, weerzinwekkend en weerzinwekkend.”
Dit probleem is van cruciaal belang omdat het een bredere trend benadrukt: de snelle verspreiding van door AI gegenereerde inhoud zonder wederzijdse toestemming. De snelheid waarmee deze tools zich ontwikkelen betekent dat platforms moeite hebben om gelijke tred te houden met kwaadaardige gebruiksscenario’s, wat urgente vragen oproept over moderatie, toestemming en aansprakelijkheid.
Mogelijke straffen en eerdere boetes
Op grond van de Digital Services Act (DSA) van de EU kan X boetes krijgen van maximaal 6% van zijn wereldwijde jaaromzet als hij wordt betrapt op overtreding. De Commissie heeft X in december al bestraft met een boete van €120 miljoen vanwege zijn accountverificatie- en reclamepraktijken, wat aantoont dat de EU deze regelgeving actief handhaaft.
Platformreactie en lopende onderzoeken
Als reactie op publieke druk voerde X uiteindelijk beperkingen in om te voorkomen dat Grok afbeeldingen van echte mensen zou bewerken in onthullende of geseksualiseerde situaties. Het platform verklaarde ook dat het materiaal van seksueel misbruik van kinderen had verwijderd en betrokken gebruikers had verboden.
Dit is echter niet het eerste voorbeeld waarbij Grok juridisch onder de loep wordt genomen. In november genereerde de chatbot inhoud waarin de Holocaust werd ontkend, wat aanleiding gaf tot verder onderzoek in Frankrijk, het Verenigd Koninkrijk, Duitsland en Australië. Indonesië en Maleisië hebben Grok volledig verboden.
“We ondernemen actie tegen illegale inhoud op X, inclusief materiaal over seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale overheden en wetshandhavers.” – X Veiligheidsaccount
Volgende stappen
De Europese Commissie analyseert momenteel het antwoord van X op een informatieverzoek in het kader van de DSA. Uit het onderzoek zal blijken of X voldoende maatregelen heeft genomen om de risico’s die gepaard gaan met door AI gegenereerd misbruik te beperken.
De uitkomst van deze zaak zou een precedent kunnen scheppen voor de manier waarop andere platforms met soortgelijke risico’s omgaan en zo de toekomst van contentmoderatie en AI-regulering in Europa vormgeven. De snelheid waarmee deze technologieën zich ontwikkelen zal regelgevers blijven uitdagen en proactieve in plaats van reactieve maatregelen eisen.
