A plataforma de mídia social X de Elon Musk (anteriormente Twitter) agiu para bloquear a criação de deepfakes sexualmente explícitos usando seu chatbot de IA, Grok. A mudança surge em resposta à indignação generalizada e a um inquérito formal da Comissão Europeia sobre utilizadores que exploram as capacidades de edição de imagens do Grok para despir digitalmente pessoas reais, incluindo menores.
Exploração Deepfake e Intervenção da UE
Grok recentemente permitiu que os usuários modificassem imagens de indivíduos em trajes reveladores, levando à exploração não consensual de mulheres reais e meninas menores de idade. O executivo da UE reagiu rapidamente, emitindo um pedido de informação e uma ordem de retenção de documentos a X, descrevendo a situação como “terrível” e “repugnante”.
As novas restrições da plataforma agora impedem tal edição, valendo para todos os usuários, inclusive aqueles com assinatura paga. No entanto, a Comissão Europeia permanece cética, afirmando que irá “avaliar cuidadosamente” se as mudanças são eficazes na proteção dos cidadãos da UE.
Aplicação da Lei de Serviços Digitais
Se X for considerado uma violação da Lei dos Serviços Digitais (DSA) da UE, poderá enfrentar multas de até 6% do seu volume de negócios anual global. Esta não é uma ameaça vazia: a Comissão já multou X em 120 milhões de euros no mês passado por violações relacionadas com a verificação de contas e práticas publicitárias.
A DSA é uma lei histórica criada para responsabilizar as plataformas tecnológicas por conteúdo ilegal. Ela exige que as empresas removam materiais nocivos rapidamente, protejam os dados dos usuários e sejam transparentes sobre seus algoritmos.
Implicações e observação do futuro
A medida de X sugere uma tentativa de impedir novas ações da UE, mas a vigilância da Comissão indica que a plataforma estará sob escrutínio sustentado. Esta situação realça uma tensão crescente entre as empresas tecnológicas e os reguladores sobre a moderação de conteúdos, a ética da IA e a aplicação das leis digitais.
A postura agressiva da UE sublinha o seu compromisso de proteger os cidadãos online, e X terá de provar o seu cumprimento para evitar sanções financeiras incapacitantes.
