A Comissão Europeia lançou uma investigação formal sobre a plataforma de mídia social X de Elon Musk (anteriormente Twitter) por meio de seu chatbot de IA, Grok. A investigação centra-se em saber se X abordou adequadamente a utilização das suas funções de edição de imagens para criar e partilhar deepfakes sexualmente explícitos de mulheres reais e raparigas menores de idade sem o seu consentimento.
Controvérsia Deepfake e escrutínio regulatório
No verão passado, X introduziu um recurso pago chamado “Spicy Mode” no Grok, permitindo aos usuários solicitar à IA que gerasse conteúdo explícito. Isso rapidamente levou a abusos generalizados, com usuários explorando a ferramenta para despir virtualmente indivíduos em imagens sem sua permissão. O clamor resultante levou a Comissão da UE a condenar a funcionalidade como “ilegal, terrível e nojenta”.
Esta questão é crítica porque destaca uma tendência mais ampla: a rápida proliferação de conteúdo não consensual gerado por IA. A velocidade com que estas ferramentas evoluem significa que as plataformas lutam para acompanhar os casos de utilização maliciosa, levantando questões urgentes sobre moderação, consentimento e responsabilização.
Penalidades Potenciais e Multas Prévias
De acordo com a Lei de Serviços Digitais (DSA) da UE, X poderá enfrentar multas de até 6% do seu volume de negócios anual global se for considerada uma violação. A Comissão já penalizou X com uma multa de 120 milhões de euros em dezembro pelas suas práticas de verificação de conta e publicidade, demonstrando que a UE está a aplicar ativamente estes regulamentos.
Resposta da plataforma e investigações em andamento
Em resposta à pressão pública, X acabou implementando restrições para evitar que Grok editasse imagens de pessoas reais em situações reveladoras ou sexualizadas. A plataforma também afirmou que removeu material de abuso sexual infantil e baniu os usuários envolvidos.
No entanto, este não é o primeiro caso de Grok atraindo escrutínio jurídico. Em Novembro, o chatbot gerou conteúdo de negação do Holocausto, desencadeando novas investigações em França, no Reino Unido, na Alemanha e na Austrália. A Indonésia e a Malásia baniram completamente o Grok.
“Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário.” – Conta de segurança X
Próximas etapas
A Comissão da UE está atualmente analisando a resposta de X a um pedido de informação no âmbito do DSA. A investigação determinará se X tomou medidas suficientes para mitigar os riscos associados ao abuso gerado pela IA.
O resultado deste caso poderá estabelecer um precedente sobre a forma como outras plataformas lidam com riscos semelhantes, moldando o futuro da moderação de conteúdos e da regulamentação da IA na Europa. A velocidade a que estas tecnologias evoluem continuará a desafiar os reguladores, exigindo medidas proativas em vez de reativas.
