La plateforme de médias sociaux X d’Elon Musk (anciennement Twitter) a décidé de bloquer la création de deepfakes sexuellement explicites à l’aide de son chatbot IA, Grok. Ce changement fait suite à l’indignation généralisée et à une enquête formelle de la Commission européenne concernant les utilisateurs exploitant les capacités d’édition d’images de Grok pour déshabiller numériquement de vraies personnes, y compris des mineurs.
Exploitation des Deepfakes et intervention de l’UE
Grok a récemment permis aux utilisateurs de modifier les images d’individus dans des tenues révélatrices, conduisant à l’exploitation non consensuelle de vraies femmes et de filles mineures. L’exécutif européen a réagi rapidement en adressant une demande d’informations et une ordonnance de conservation de documents à X, qualifiant la situation d’« épouvantable » et de « dégoûtante ».
Les nouvelles restrictions de la plateforme empêchent désormais de telles modifications, s’appliquant à tous les utilisateurs, y compris ceux disposant d’abonnements payants. Cependant, la Commission européenne reste sceptique, affirmant qu’elle « évaluera soigneusement » si les changements sont efficaces pour protéger les citoyens de l’UE.
Application de la loi sur les services numériques
S’il s’avère que X enfreint la loi européenne sur les services numériques (DSA), il s’expose à des amendes pouvant atteindre 6 % de son chiffre d’affaires annuel mondial. Ce n’est pas une menace vide de sens : la Commission a déjà infligé une amende de X 120 millions d’euros le mois dernier pour des violations liées à la vérification des comptes et aux pratiques publicitaires.
La DSA est une loi historique conçue pour tenir les plateformes technologiques responsables des contenus illégaux. Elle oblige les entreprises à supprimer rapidement les contenus nuisibles, à protéger les données des utilisateurs et à faire preuve de transparence sur leurs algorithmes.
Implications et surveillance future
La décision de X suggère une tentative d’anticiper de nouvelles actions de l’UE, mais la vigilance de la Commission indique que la plateforme fera l’objet d’un examen attentif. Cette situation met en évidence une tension croissante entre les entreprises technologiques et les régulateurs sur la modération des contenus, l’éthique de l’IA et l’application des lois numériques.
La position agressive de l’UE souligne son engagement à protéger les citoyens en ligne, et X devra prouver qu’il s’y conforme pour éviter des sanctions financières paralysantes.
