Komisja Europejska wszczęła formalne dochodzenie w sprawie sieci społecznościowej X Elona Muska (dawniej Twitter) w związku z jej chatbotem AI Grok. Koncentrujemy się na tym, czy X podjął wystarczające kroki, aby zapobiec wykorzystywaniu jego funkcji do edycji obrazów do tworzenia i rozpowszechniania deepfakeów o charakterze jednoznacznie seksualnym przedstawiających prawdziwe kobiety i nieletnich bez ich zgody.
Skandal związany z Deepfakes i nadzór regulacyjny
Zeszłego lata X wprowadził do Groka płatną funkcję o nazwie „Spicy Mode”, umożliwiającą użytkownikom proszenie sztucznej inteligencji o wygenerowanie treści dla dorosłych. Szybko doprowadziło to do nadużyć, ponieważ użytkownicy używali tego narzędzia do wirtualnego rozbierania ludzi na zdjęciach bez ich zgody. Wywołane tym oburzenie skłoniło Komisję Europejską do potępienia tego filmu jako „nielegalnego, oburzającego i obrzydliwego”.
Ta kwestia ma kluczowe znaczenie, ponieważ podkreśla szerszy trend: rozprzestrzenianie się nieautoryzowanych treści generowanych przez sztuczną inteligencję. Szybkość ewolucji tych narzędzi oznacza, że platformy z trudem nadążają za szkodliwymi przypadkami użycia, co rodzi palące pytania dotyczące moderacji, zgody i odpowiedzialności.
Możliwe kary i poprzednie kary
Zgodnie z unijną ustawą o usługach cyfrowych (DSA) X może zostać ukarany grzywną w wysokości do 6% jego globalnego rocznego obrotu, jeśli zostanie uznany za winnego. W grudniu Komisja nałożyła już grzywnę w wysokości X 120 mln euro za praktyki związane z weryfikacją konta i reklamą, co stanowi dowód aktywnego egzekwowania tych przepisów UE.
Odpowiedź platformy i trwające dochodzenia
W odpowiedzi na presję społeczną X ostatecznie wprowadził ograniczenia, aby uniemożliwić Grokowi edytowanie zdjęć prawdziwych ludzi w sytuacjach o charakterze jawnym lub seksualnym. Platforma oświadczyła również, że usunęła materiały przedstawiające wykorzystywanie seksualne dzieci i zakazała zaangażowanych użytkowników.
Nie jest to jednak pierwszy raz, kiedy Grok przyciąga uwagę prawników. W listopadzie chatbot wygenerował treści zaprzeczające Holokaustowi, co skłoniło do dalszych dochodzeń we Francji, Wielkiej Brytanii, Niemczech i Australii. Indonezja i Malezja całkowicie zakazały stosowania Groka.
„Podejmujemy działania przeciwko nielegalnym treściom w serwisie X, w tym materiałom przedstawiającym wykorzystywanie seksualne dzieci (CSAM), usuwając je, trwale zawieszając konta i, jeśli to konieczne, współpracując z samorządami lokalnymi i organami ścigania”. – X Konto Bezpieczeństwa
Następne kroki
Komisja analizuje obecnie odpowiedź X na wniosek o udzielenie informacji w ramach DSA. Dochodzenie ustali, czy X podjął wystarczające kroki w celu ograniczenia ryzyka związanego z nadużyciami generowanymi przez sztuczną inteligencję.
Wynik tej sprawy może stanowić precedens dla sposobu, w jaki inne platformy radzą sobie z podobnymi zagrożeniami, kształtując przyszłość moderacji treści i regulacji dotyczących sztucznej inteligencji w Europie. Tempo ewolucji tych technologii będzie w dalszym ciągu wymagać od organów regulacyjnych zachowania proaktywnego, a nie reaktywnego.
