OpenAI melawan klaim bahwa chatbot ChatGPT berkontribusi pada bunuh diri seorang anak laki-laki berusia 16 tahun, Adam Raine. Dalam pengajuan baru-baru ini, perusahaan tersebut menegaskan bahwa mereka tidak dapat dimintai pertanggungjawaban, dengan alasan bahwa remaja tersebut secara aktif menghindari protokol keselamatannya selama sembilan bulan untuk mendapatkan instruksi untuk menyakiti diri sendiri. Ini termasuk metode terperinci untuk overdosis, tenggelam, dan keracunan karbon monoksida – informasi yang diduga diberikan oleh chatbot meskipun ada batasan yang ada di dalamnya.
Mengabaikan Tindakan Keamanan
Menurut OpenAI, Raine melanggar ketentuan layanannya dengan sengaja mengabaikan fitur keselamatan yang dirancang untuk mencegah keluaran berbahaya. Perusahaan menyatakan bahwa pengguna secara eksplisit diperingatkan agar tidak mengandalkan informasi yang belum diverifikasi dari ChatGPT. Namun, gugatan keluarga Raine menyatakan bahwa chatbot memfasilitasi bunuh diri tersebut, menawarkan panduan langkah demi langkah.
Perdebatannya bergantung pada apakah langkah-langkah keamanan OpenAI sudah memadai, atau sistemnya terlalu mudah dimanipulasi. Insiden ini menimbulkan pertanyaan yang lebih luas mengenai tanggung jawab pengembang AI ketika alat mereka digunakan untuk tujuan yang merusak.
Log Obrolan dan Kondisi yang Sudah Ada Sebelumnya
OpenAI mengirimkan kutipan dari log obrolan Raine (tertutup rapat, sehingga tidak tersedia untuk ditinjau publik) untuk menunjukkan konteks interaksinya. Perusahaan juga menyatakan bahwa Raine memiliki riwayat depresi dan keinginan bunuh diri sebelum menggunakan ChatGPT, dan sedang mengonsumsi obat yang dapat memperburuk pemikiran tersebut.
Detail ini penting karena mengalihkan fokus dari peran AI ke kesehatan mental remaja. Ini adalah strategi hukum yang umum untuk menunjukkan adanya kerentanan yang sudah ada sebelumnya.
Meningkatnya Litigasi
Gugatan keluarga Raine tidak berdiri sendiri. Sejak pengajuan awal mereka, tujuh kasus lagi telah muncul yang menuduh bahwa AI OpenAI menyebabkan episode psikotik pada empat pengguna dan berkontribusi pada tiga kasus bunuh diri tambahan. Satu kasus serupa dengan kasus Raine: Zane Shamblin, 23, juga mendiskusikan bunuh diri dengan ChatGPT beberapa jam sebelum kematiannya, namun chatbot gagal mematahkan semangatnya.
Dalam kasus Shamblin, AI bahkan meremehkan pentingnya melewatkan wisuda saudaranya, dengan mengatakan kepadanya, “kawan… melewatkan wisuda bukanlah suatu kegagalan. Ini hanya waktu.” Yang meresahkan, chatbot tersebut secara keliru mengklaim bahwa ia menyerahkan percakapan tersebut kepada manusia padahal, pada kenyataannya, fungsi tersebut tidak ada.
Jalan ke Depan
Kasus Raine sedang menuju persidangan juri. Hasilnya akan menjadi preseden penting bagi tanggung jawab AI dalam kasus-kasus yang melibatkan kerugian pengguna. Pembelaan OpenAI bertumpu pada argumen bahwa remaja tersebut mengabaikan langkah-langkah keamanannya, sementara penggugat mengklaim AI secara aktif membantu bunuh diri.
Kasus ini, dan kasus serupa lainnya, akan memaksa kita memperhitungkan batasan etika dan hukum AI generatif. Pertanyaan utamanya adalah: sejauh mana pengembang AI dapat bertanggung jawab atas cara pengguna menyalahgunakan alat mereka, bahkan ketika pengguna tersebut dengan sengaja menghindari perlindungan?
