Sebuah studi baru-baru ini menunjukkan bahwa remaja perempuan terlibat dengan aplikasi “nudifikasi” yang didukung kecerdasan buatan – alat yang membuat gambar seksual dari foto yang diunggah – dengan tingkat yang sebanding dengan remaja laki-laki. Temuan ini menantang asumsi bahwa perilaku ini terutama didorong oleh pengguna laki-laki. Penelitian yang dipublikasikan di PLOS One ini menyurvei 557 remaja berbahasa Inggris berusia 13-17 tahun pada Januari 2025 dan mengungkapkan bahwa 55% telah membuat gambar tersebut, sementara 54% telah menerimanya.
Penggunaan Meluas dan Berbagi Tanpa Konsensual
Hasil penelitian ini penting karena mengungkap normalisasi teknologi ini di kalangan remaja. Lebih dari sepertiga responden melaporkan bahwa mereka adalah korban, dengan persentase serupa menyatakan bahwa gambar mereka dibuat tanpa izin atau dibagikan tanpa izin. Sekitar 1 dari 6 remaja, baik pria maupun wanita, mengaku sering menggunakan alat tersebut untuk memvisualisasikan bagaimana mereka akan tampil dalam konten seksual.
Tren ini penting karena menunjukkan betapa cepatnya manipulasi gambar berbasis AI telah terintegrasi ke dalam budaya digital remaja. Implikasinya belum sepenuhnya dipahami, namun penelitian menunjukkan bahwa perilaku ini tidak lagi hanya terjadi pada demografi tertentu.
Mengapa Anak Perempuan Berpartisipasi
Meskipun penelitian ini tidak mengeksplorasi motivasi secara langsung, para ahli berspekulasi bahwa anak perempuan mungkin menggunakan alat-alat tersebut karena beberapa alasan. Sebuah teori mengaitkan hal ini dengan prevalensi filter “coba-coba” untuk pakaian dan riasan, yang mungkin menormalkan interaksi serupa yang didorong oleh AI. Faktor lainnya adalah potensi paksaan dari teman laki-laki, dimana anak perempuan mungkin merasa tertekan untuk membuat atau membagikan konten eksplisit agar sesuai atau mempertahankan status sosial.
Linda Charmaraman, seorang spesialis kesejahteraan digital remaja, mencatat bahwa remaja berada pada tahap perkembangan yang rentan di mana penerimaan sosial adalah hal yang terpenting. “Jika Anda menggabungkan waktu pengembangan tersebut dengan AI, hal ini dapat membawa risiko lebih lanjut,” jelasnya, seraya menunjukkan bahwa tekanan dari rekan sejawat dan pencarian status dapat mendorong penggunaan.
Resiko Terciptanya Materi Ilegal yang Tidak Disengaja
Kekhawatiran utamanya adalah remaja sering kali tidak menyadari bahwa mereka mungkin membuat materi pelecehan seksual terhadap anak (CSAM) saat menggunakan alat nudifikasi. Bahkan jika gambaran tersebut dibagikan secara konsensual di kalangan remaja, implikasi hukumnya masih belum jelas. Selain itu, predator secara aktif mencari konten tersebut, menggunakan AI untuk menghasilkan gambar berdasarkan foto yang tersedia untuk umum dan berpotensi melakukan pemerasan seks.
Yang Harus Diketahui Orang Tua
Studi ini menunjukkan bahwa orang tua harus berasumsi bahwa anak-anak mereka akan menemukan alat-alat ini dan melakukan percakapan terbuka dan tidak menghakimi tentang risikonya. Pendekatan yang hanya bersifat pantangan kemungkinan besar tidak akan efektif, karena remaja mungkin memandang konten yang dibuat oleh AI sebagai bagian alami dari eksplorasi seksualitas mereka. Sebaliknya, para ahli merekomendasikan diskusi rutin tentang kehidupan digital remaja, mendorong komunikasi terbuka sehingga insiden yang menyusahkan seperti berbagi tanpa persetujuan dapat segera diatasi.
Implikasi Kebijakan dan Tanggung Jawab Perusahaan Teknologi
Para peneliti mengusulkan pendekatan multi-cabang untuk memitigasi risiko. Salah satu sarannya adalah mendidik remaja tentang intervensi pengamat: angkat bicara ketika teman sebayanya berencana membuat gambaran non-konsensual. Permintaan lain bagi perusahaan teknologi untuk mengadopsi standar “duty of care” (kewajiban menjaga kehati-hatian), menyediakan alat yang memungkinkan anak di bawah umur dan orang tua mengelola pengalaman digital, termasuk menonaktifkan fitur tertentu dan melindungi informasi pribadi.
Pada akhirnya, penelitian ini menggarisbawahi perlunya kesadaran yang lebih besar dan langkah-langkah proaktif untuk mengatasi perkembangan citra seksual yang dihasilkan oleh AI di kalangan remaja. Meluasnya penggunaan alat-alat ini memerlukan respons komprehensif dari orang tua, pendidik, pembuat kebijakan, dan perusahaan teknologi.
