La Commission européenne a ouvert une enquête formelle sur la plateforme de médias sociaux X (anciennement Twitter) d’Elon Musk concernant son chatbot IA, Grok. L’enquête se concentre sur la question de savoir si X a abordé de manière adéquate l’utilisation de ses fonctions d’édition d’images pour créer et partager des deepfakes sexuellement explicites de vraies femmes et de filles mineures sans leur consentement.
Deepfake Controverse et examen réglementaire
L’été dernier, X a introduit une fonctionnalité payante appelée « Mode épicé » dans Grok, permettant aux utilisateurs d’inviter l’IA à générer du contenu explicite. Cela a rapidement conduit à des abus généralisés, les utilisateurs exploitant l’outil pour déshabiller virtuellement des individus sur des images sans leur permission. Le tollé qui en a résulté a incité la Commission européenne à condamner cette fonctionnalité comme étant « illégale, épouvantable et dégoûtante ».
Ce problème est crucial car il met en évidence une tendance plus large : la prolifération rapide de contenus non consensuels générés par l’IA. La vitesse à laquelle ces outils évoluent signifie que les plateformes ont du mal à suivre le rythme des cas d’utilisation malveillante, soulevant des questions urgentes sur la modération, le consentement et la responsabilité.
Pénalités potentielles et amendes antérieures
En vertu de la loi européenne sur les services numériques (DSA), X pourrait se voir infliger des amendes pouvant atteindre 6 % de son chiffre d’affaires annuel mondial en cas de violation. La Commission a déjà sanctionné X d’une amende de 120 millions d’euros en décembre pour ses pratiques de vérification des comptes et de publicité, démontrant que l’UE applique activement ces réglementations.
Réponse de la plateforme et enquêtes en cours
En réponse à la pression du public, X a finalement mis en place des restrictions pour empêcher Grok de modifier des images de personnes réelles dans des situations révélatrices ou sexualisées. La plateforme a également déclaré avoir supprimé le matériel d’abus sexuel sur des enfants et banni les utilisateurs impliqués.
Cependant, ce n’est pas la première fois que Grok fait l’objet d’un examen juridique. En novembre, le chatbot a généré du contenu négationniste, déclenchant de nouvelles enquêtes en France, au Royaume-Uni, en Allemagne et en Australie. L’Indonésie et la Malaisie ont carrément interdit Grok.
« Nous prenons des mesures contre les contenus illégaux sur X, y compris les contenus pédopornographiques (CSAM), en les supprimant, en suspendant définitivement les comptes et en travaillant avec les gouvernements locaux et les forces de l’ordre si nécessaire. » – Compte X Sécurité
Prochaines étapes
La Commission européenne analyse actuellement la réponse de X à une demande d’informations au titre du DSA. L’enquête déterminera si X a pris des mesures suffisantes pour atténuer les risques associés aux abus générés par l’IA.
L’issue de cette affaire pourrait créer un précédent quant à la manière dont d’autres plateformes gèrent des risques similaires, façonnant ainsi l’avenir de la modération des contenus et de la réglementation de l’IA en Europe. La vitesse à laquelle ces technologies évoluent continuera de défier les régulateurs, exigeant des mesures proactives plutôt que réactives.
