La piattaforma di social media X di Elon Musk (ex Twitter) si è mossa per bloccare la creazione di deepfake sessualmente espliciti utilizzando il suo chatbot AI, Grok. Il cambiamento arriva in risposta alla indignazione diffusa e a un’indagine formale da parte della Commissione Europea nei confronti degli utenti che sfruttano le capacità di editing delle immagini di Grok per spogliare digitalmente persone reali, compresi i minori.
Sfruttamento dei deepfake e intervento dell’UE
Grok ha recentemente consentito agli utenti di modificare le immagini di individui in abiti succinti, portando allo sfruttamento non consensuale di donne vere e ragazze minorenni. L’esecutivo dell’UE ha reagito rapidamente, inviando una richiesta di informazioni e un ordine di conservazione dei documenti a X, descrivendo la situazione come “spaventosa” e “disgustosa”.
Le nuove restrizioni della piattaforma ora impediscono tale modifica, applicandosi a tutti gli utenti, compresi quelli con abbonamenti a pagamento. Tuttavia, la Commissione europea rimane scettica, affermando che “valuterà attentamente” se i cambiamenti saranno efficaci nel proteggere i cittadini dell’UE.
Applicazione della legge sui servizi digitali
Se X dovesse risultare in violazione del Digital Services Act (DSA) dell’UE, potrebbe incorrere in sanzioni fino al 6% del suo fatturato annuo globale. Non si tratta di una minaccia vuota: il mese scorso la Commissione ha già inflitto una multa di X 120 milioni di euro per violazioni relative alla verifica dei conti e alle pratiche pubblicitarie.
La DSA è una legge storica progettata per ritenere le piattaforme tecnologiche responsabili dei contenuti illegali. Richiede alle aziende di rimuovere rapidamente il materiale dannoso, proteggere i dati degli utenti ed essere trasparenti riguardo ai propri algoritmi.
Implicazioni e sorveglianza del futuro
La mossa di X suggerisce un tentativo di anticipare ulteriori azioni dell’UE, ma la vigilanza della Commissione indica che la piattaforma sarà sotto esame costante. Questa situazione evidenzia una crescente tensione tra le aziende tecnologiche e le autorità di regolamentazione sulla moderazione dei contenuti, sull’etica dell’intelligenza artificiale e sull’applicazione delle leggi digitali.
La posizione aggressiva dell’UE sottolinea il suo impegno nel proteggere i cittadini online, e X dovrà dimostrare la propria conformità per evitare sanzioni finanziarie paralizzanti.
