Platform media sosial Elon Musk X (sebelumnya Twitter) telah memblokir pembuatan deepfake seksual eksplisit menggunakan chatbot AI-nya, Grok. Perubahan ini terjadi sebagai respons terhadap kemarahan yang meluas dan penyelidikan resmi dari Komisi Eropa atas pengguna yang mengeksploitasi kemampuan pengeditan gambar Grok untuk menelanjangi orang sungguhan secara digital, termasuk anak di bawah umur.
Eksploitasi Deepfake dan Intervensi UE
Grok baru-baru ini mengizinkan pengguna untuk mengubah gambar seseorang dengan pakaian terbuka, yang mengarah pada eksploitasi tanpa persetujuan terhadap perempuan asli dan gadis di bawah umur. Eksekutif UE dengan cepat bereaksi, mengeluarkan permintaan informasi dan perintah penyimpanan dokumen kepada X, menggambarkan situasi tersebut sebagai “mengerikan” dan “menjijikkan.”
Pembatasan baru pada platform ini sekarang mencegah pengeditan tersebut, dan berlaku untuk semua pengguna, termasuk mereka yang berlangganan berbayar. Namun, Komisi Eropa tetap skeptis dan menyatakan bahwa mereka akan “menilai secara cermat” apakah perubahan tersebut efektif dalam melindungi warga negara UE.
Penegakan Undang-Undang Layanan Digital
Jika X terbukti melanggar Undang-Undang Layanan Digital (DSA) UE, perusahaan tersebut dapat dikenakan denda hingga 6% dari omset tahunan globalnya. Ini bukan ancaman kosong: Komisi telah mendenda X €120 juta bulan lalu atas pelanggaran terkait verifikasi akun dan praktik periklanan.
DSA adalah undang-undang penting yang dirancang untuk meminta pertanggungjawaban platform teknologi atas konten ilegal. Undang-undang ini mengharuskan perusahaan untuk segera menghapus materi berbahaya, melindungi data pengguna, dan transparan mengenai algoritme mereka.
Implikasi dan Peringatan di Masa Depan
Langkah X ini menunjukkan adanya upaya untuk mencegah tindakan Uni Eropa lebih lanjut, namun kewaspadaan Komisi menunjukkan bahwa platform tersebut akan berada di bawah pengawasan yang berkelanjutan. Situasi ini menyoroti meningkatnya ketegangan antara perusahaan teknologi dan regulator mengenai moderasi konten, etika AI, dan penegakan hukum digital.
Sikap agresif UE menggarisbawahi komitmennya untuk melindungi warga negaranya secara online, dan X perlu membuktikan kepatuhannya untuk menghindari hukuman finansial yang melumpuhkan.
