Elon Musk’s sociale mediaplatform X (voorheen Twitter) is verhuisd om de creatie van seksueel expliciete deepfakes te blokkeren met behulp van zijn AI-chatbot, Grok. De verandering komt als reactie op wijdverbreide verontwaardiging en een formeel onderzoek van de Europese Commissie naar gebruikers die de beeldbewerkingsmogelijkheden van Grok misbruiken om echte mensen, inclusief minderjarigen, digitaal uit te kleden.
Deepfake-uitbuiting en EU-interventie
Grok stond gebruikers onlangs toe om afbeeldingen van individuen in onthullende outfits te wijzigen, wat leidde tot de niet-consensuele uitbuiting van echte vrouwen en minderjarige meisjes. De uitvoerende macht van de EU reageerde snel en stuurde een verzoek om informatie en een bevel tot bewaring van documenten naar X, waarbij de situatie als ‘verschrikkelijk’ en ‘walgelijk’ werd omschreven.
De nieuwe beperkingen van het platform verhinderen nu dergelijke bewerkingen en zijn van toepassing op alle gebruikers, inclusief gebruikers met betaalde abonnementen. De Europese Commissie blijft echter sceptisch en stelt dat zij “zorgvuldig zal beoordelen” of de veranderingen effectief zijn in het beschermen van EU-burgers.
Handhaving van de wet op de digitale diensten
Als X wordt betrapt op overtreding van de Digital Services Act (DSA) van de EU, kan het bedrijf boetes krijgen die kunnen oplopen tot 6% van zijn wereldwijde jaaromzet. Dit is geen loos dreigement: de Commissie heeft vorige maand al een boete van X € 120 miljoen opgelegd voor overtredingen met betrekking tot accountverificatie en advertentiepraktijken.
De DSA is een baanbrekende wet die is ontworpen om technologieplatforms verantwoordelijk te houden voor illegale inhoud. De wet vereist dat bedrijven schadelijk materiaal snel verwijderen, gebruikersgegevens beschermen en transparant zijn over hun algoritmen.
Implicaties en toekomstvoorspelling
De zet van X suggereert een poging om verdere EU-actie te voorkomen, maar de waakzaamheid van de Commissie geeft aan dat het platform voortdurend onder de loep zal worden genomen. Deze situatie benadrukt een groeiende spanning tussen technologiebedrijven en toezichthouders over contentmoderatie, AI-ethiek en de handhaving van digitale wetten.
De agressieve houding van de EU onderstreept haar inzet om burgers online te beschermen, en X zal haar naleving moeten bewijzen om verlammende financiële sancties te voorkomen.
