Platforma sociálních médií X Elona Muska (dříve Twitter) podnikla kroky k zablokování vytváření sexuálně explicitních deepfakes pomocí svého AI chatbota Grok. Tato změna následuje po rozšířeném pobouření a oficiální žádosti Evropské komise poté, co uživatelé využili schopnosti Groka pro úpravu obrázků k digitálnímu svlékání skutečných lidí, včetně nezletilých.
Využívání Deepfakes a intervence EU
Grok nedávno umožnil uživatelům měnit obrázky lidí jejich umístěním do odhalujících oděvů, což vedlo k neoprávněnému vykořisťování skutečných žen a nezletilých dívek. Vedení EU rychle odpovědělo žádostí o informace a příkazem k uchování dokumentů v X, přičemž situaci označilo za „strašnou“ a „nechutnou“.
Nová omezení platforem nyní takovým úpravám brání a vztahují se na všechny uživatele, včetně těch s placeným předplatným. Evropská komise však zůstává skeptická a tvrdí, že „pečlivě posoudí“, zda jsou změny účinné při ochraně občanů EU.
Aplikace zákona o digitálních službách
Pokud se zjistí, že X porušuje zákon EU o digitálních službách (DSA), hrozí mu pokuta až do výše 6 % jeho celosvětového ročního obratu. Nejsou to plané hrozby: minulý měsíc již Komise udělila pokutu X 120 milionů EUR za porušení předpisů souvisejících s ověřováním účtů a reklamními praktikami.
DSA je přelomový zákon, jehož cílem je přimět technologické platformy k odpovědnosti za nelegální obsah. Vyžaduje, aby společnosti rychle odstranily škodlivý obsah, chránily uživatelská data a byly transparentní ohledně svých algoritmů.
Důsledky a budoucí změny
Akce X naznačují snahu zabránit dalším opatřením ze strany EU, ale ostražitost Komise dává jasně najevo, že platforma bude pod neustálým dohledem. Situace poukazuje na rostoucí napětí mezi technologickými společnostmi a regulátory ohledně moderování obsahu, etiky umělé inteligence a dodržování digitálních zákonů.
Agresivní postoj EU podtrhuje její odhodlání chránit občany online a X bude muset prokázat své dodržování, aby se vyhnul ochromujícím finančním sankcím.
