Komisi Eropa telah meluncurkan penyelidikan formal terhadap platform media sosial X Elon Musk (sebelumnya Twitter) atas chatbot AI-nya, Grok. Penyelidikan ini berfokus pada apakah X cukup menangani penggunaan fungsi pengeditan gambarnya untuk membuat dan membagikan deepfake seksual eksplisit yang menampilkan perempuan asli dan anak perempuan di bawah umur tanpa persetujuan mereka.
Kontroversi Deepfake dan Pengawasan Peraturan
Musim panas lalu, X memperkenalkan fitur berbayar yang disebut “Mode Pedas” di Grok, memungkinkan pengguna meminta AI untuk menghasilkan konten eksplisit. Hal ini dengan cepat menyebabkan penyalahgunaan yang meluas, dimana pengguna mengeksploitasi alat tersebut untuk menelanjangi individu dalam gambar tanpa izin mereka. Kecaman yang diakibatkannya mendorong Komisi UE untuk mengutuk fungsi tersebut sebagai “ilegal, mengerikan, dan menjijikkan.”
Masalah ini penting karena menyoroti tren yang lebih luas: pesatnya proliferasi konten non-konsensual yang dihasilkan oleh AI. Kecepatan perkembangan alat-alat ini berarti bahwa platform kesulitan mengimbangi kasus penggunaan berbahaya, sehingga menimbulkan pertanyaan mendesak tentang moderasi, persetujuan, dan akuntabilitas.
Potensi Hukuman dan Denda Sebelumnya
Berdasarkan Undang-Undang Layanan Digital (DSA) Uni Eropa, X dapat dikenakan denda hingga 6% dari omzet tahunan globalnya jika terbukti melakukan pelanggaran. Komisi telah menghukum X dengan denda €120 juta pada bulan Desember atas verifikasi akun dan praktik periklanannya, yang menunjukkan bahwa UE secara aktif menegakkan peraturan ini.
Respons Platform dan Investigasi yang Berkelanjutan
Menanggapi tekanan publik, X akhirnya menerapkan pembatasan untuk mencegah Grok mengedit gambar orang sungguhan ke dalam situasi yang terbuka atau bersifat seksual. Platform tersebut juga menyatakan bahwa mereka menghapus materi pelecehan seksual terhadap anak-anak dan melarang pengguna yang terlibat.
Namun, ini bukan pertama kalinya Grok menarik perhatian hukum. Pada bulan November, chatbot menghasilkan konten penolakan Holocaust, yang memicu penyelidikan lebih lanjut di Prancis, Inggris, Jerman, dan Australia. Indonesia dan Malaysia langsung melarang Grok sama sekali.
“Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual terhadap Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.” – X Akun keamanan
Langkah Selanjutnya
Komisi UE saat ini sedang menganalisis tanggapan X terhadap permintaan informasi berdasarkan DSA. Investigasi ini akan menentukan apakah X telah mengambil tindakan yang cukup untuk memitigasi risiko yang terkait dengan penyalahgunaan yang disebabkan oleh AI.
Hasil dari kasus ini dapat menjadi preseden tentang bagaimana platform lain menangani risiko serupa, sehingga membentuk masa depan moderasi konten dan regulasi AI di Eropa. Kecepatan perkembangan teknologi ini akan terus menjadi tantangan bagi regulator, sehingga menuntut tindakan proaktif dibandingkan reaktif.
