Platforma mediów społecznościowych Elona Muska X (dawniej Twitter) podjęła kroki, aby zablokować tworzenie deepfake’ów o charakterze jednoznacznie seksualnym za pomocą chatbota AI Grok. Zmiana ta jest następstwem powszechnego oburzenia i oficjalnego wniosku Komisji Europejskiej po tym, jak użytkownicy wykorzystali możliwości Groka do edycji zdjęć w celu cyfrowego rozbierania prawdziwych ludzi, w tym nieletnich.
Wykorzystywanie Deepfakes i interwencja UE
Niedawno Grok umożliwił użytkownikom zmienianie wizerunków ludzi poprzez umieszczanie ich w odkrywczych strojach, co skutkowało nieuprawnionym wykorzystywaniem prawdziwych kobiet i nieletnich dziewcząt. Przywódcy UE szybko zareagowali prośbą o informacje i nakazem zachowania dokumentów w X, nazywając sytuację „straszną” i „obrzydliwą”.
Nowe ograniczenia platformy uniemożliwiają teraz taką edycję i dotyczą wszystkich użytkowników, w tym także tych z płatnymi subskrypcjami. Komisja Europejska pozostaje jednak sceptyczna, twierdząc, że „dokładnie oceni”, czy zmiany skutecznie chronią obywateli UE.
Stosowanie ustawy o usługach cyfrowych
Jeżeli okaże się, że X naruszył unijną ustawę o usługach cyfrowych (DSA), grozi mu grzywna w wysokości do 6% jego globalnego rocznego obrotu. Nie są to czcze groźby: w zeszłym miesiącu Komisja nałożyła już karę w wysokości X 120 mln euro za naruszenia związane z weryfikacją konta i praktykami reklamowymi.
Ustawa DSA to przełomowe prawo mające na celu pociągnięcie platform technologicznych do odpowiedzialności za nielegalne treści. Wymaga od firm szybkiego usuwania szkodliwych treści, ochrony danych użytkowników i przejrzystości w zakresie swoich algorytmów.
Konsekwencje i przyszłe zmiany
Działania X wskazują na próbę zapobieżenia dalszym działaniom UE, jednak czujność Komisji jasno pokazuje, że platforma będzie pod stałym monitorowaniem. Sytuacja uwydatnia rosnące napięcia między firmami technologicznymi a organami regulacyjnymi w zakresie moderowania treści, etyki sztucznej inteligencji i zgodności z przepisami cyfrowymi.
Agresywna postawa UE podkreśla jej zaangażowanie w ochronę obywateli w Internecie, a X będzie musiał udowodnić, że się stosuje, aby uniknąć wyniszczających sankcji finansowych.
