Buntut Aksi Bunuh Diri Remaja AS, OpenAI Ubah Sistem Respon ChatGPT

JAKARTA - OpenAI akan mengubah model teknologi kecerdasan mereka, ChatGPT, dalam merespon pengguna yang rentan melakukan aksi bunuh diri, akibat mengalami masalah emosional dan mental. 

Perubahan itu menyusul kasus bunuh diri yang dilakukan oleh seorang remaja 16 tahun di Amerika Serikat pada April lalu. Seperti dilaporakan The Guardian yang dilansir Antara, pihak keluarga mengklaim bahwa anak mereka berinteraksi selama berbulan-bulan.

Dalam dokumen gugatan keluarga yang disampaikan ke Pengadilan Tinggi Negara Bagian California untuk wilayah San Francisco, tercatat bahwa remaja tersebut mendiskusikan metode bunuh diri dengan ChatGPT beberapa kali, termasuk sesaat sebelum bunuh diri.

Menurut klaim dokumen tersebut, remaja tersebut dan ChatGPT telah bertukar hingga 650 pesan per hari.

Pengacara keluarga, Jay Edelson mengklaim bahwa ChatGPT memberikan saran tentang metode bunuh diri, bahkan menawarkan kepada remaja itu untuk membantu menulis surat bunuh diri kepada orang tuanya.

Pihak keluarga mengklaim ChatGPT versi  4o, dirilis terlalu cepat oleh OpenAI, meskipun ada masalah keamanan.

OpenAI mengakui sistem mereka terkadang kurang tanggap terhadap situasi sensitif, dan bagian dari pelatihan keamanan model dapat menurun dalam percakapan yang panjang. Ke depan, perusahaan akan menerapkan pengamanan sistem yang lebih kuat untuk konten sensitif dan perilaku berisiko, terutama untuk pengguna di bawah 18 tahun.

Rencana itu juga mencakup pengenalan kontrol orang tua, meskipun detail fitur-fiturnya belum diumumkan. OpenAI juga merancang penguatan pengamanan dalam sebuah percakapan panjang.

Perusahaan tersebut sedang mengerjakan pembaruan tersebut, termasuk untuk GPT-5, untuk memastikan ChatGPT dapat menenangkan dengan mengembalikan orang tersebut ke kenyataan, dan memberikan panduan yang lebih aman dan bertanggung jawab.