ChatGPT Akan Rilis Fitur Kontrol Orang Tua

JAKARTA - Buntut gugatan yang dilayangkan akibat kasus bunuh diri seorang remaja, OpenAI sebagai pengembang chatbot ChatGPT tengah mengembangkan fitur baru untuk meingkatkan keamanan pengguna. Fitur kontrol orang tua untuk ChatGPT itu dijanjikan akan rilis dalam satu bulan ke depan.

Setelah fitur tersebut tersedia, orang tua dapat menautkan akun pribadi ChatGPT mereka dengan akun anak remaja. Dari situ, orang tua bisa mengontrol bagaimana ChatGPT merespons anak mereka, serta menonaktifkan fitur tertentu, termasuk memori dan riwayat percakapan.

Selain itu, nantinya ChatGPT juga akan memberikan peringatan otomatis ketika mendeteksi remaja berada dalam momen tekanan akut. Menurut OpenAI, masukan dari para ahli akan memandu fitur ini untuk mendukung kepercayaan antara orang tua dan remaja.

Pengumuman mengenai kontrol orang tua ini muncul setelah OpenAI digugat dalam kasus kematian keliru atau error in perona. Dalam gugatan yang diajukan pekan lalu, Matt dan Maria Raine, orang tua seorang remaja yang bunuh diri tahun ini, menuduh ChatGPT mengetahui empat upaya bunuh diri yang gagal sebelumnya, sebelum membantu putra mereka merencanakan kematiannya.

Keluarga Raine mengatakan, ChatGPT memberikan informasi kepada putra mereka, Adam, tentang metode bunuh diri tertentu, bahkan memberi saran tentang cara menyembunyikan luka leher yang diderita dari upaya sebelumnya yang gagal.

OpenAI sebagaimana dikutip dari Antara mengatakan, kontrol orang tua merupakan bagian dari upaya yang lebih luas untuk meningkatkan keselamatan di ChatGPT. Pihaknya pun berjanji akan bekerja sama dengan lebih banyak pakar, termasuk yang berfokus pada gangguan makan, penyalahgunaan zat, dan kesehatan remaja, untuk menyempurnakan modelnya.

Perusahaan juga berjanji akan menerapkan router baru secara real time yang dirancang untuk menyalurkan percakapan sensitif melalui model penalarannya.

"Dilatih dengan metode yang kami sebut deliberative alignment, pengujian kami menunjukkan bahwa model penalaran lebih konsisten mengikuti dan menerapkan pedoman keselamatan serta lebih tahan terhadap prompt yang bersifat adu argumentasi," kata OpenAI.

Ke depan, dalam situasi ketika ChatGPT mendeteksi seseorang mungkin sedang dalam tekanan, chatbot akan mengarahkan percakapan tersebut melalui model penalaran, terlepas dari model yang dipilih pengguna sebelum memulai percakapan.

Secara lebih luas, OpenAI mengatakan masyarakat dapat mengharapkan lebih banyak fitur keselamatan di masa mendatang.

"Pekerjaan ini sudah berjalan, tetapi kami ingin secara proaktif memberikan gambaran rencana untuk 120 hari ke depan, sehingga Anda tidak perlu menunggu peluncuran untuk melihat arah kami," kata OpenAI, dilansir Engadget.

OpenAI berjanji untuk terus berupaya meluncurkan sebanyak mungkin perbaikan di tahun ini.