Satu Juta Orang Per Minggu Menunjukkan Keinginan Bunuh Diri Ke ChatGPT 

JAKARTA - Perusahaan kecerdasan buatan (AI) OpenAI merilis data mencolok terkait masalah kesehatan mental para penggunanya. Perusahaan melaporkan kalau sebagian kecil pengguna ChatGPT, sekitar 0,15 persen mengalami permasalahan kesehatan mental serta menunjukkan keinginan bunuh diri saat berinteraksi dengan chatbot.

Dilansir dari Antara, Selasa (28/10), berdasarkan laporan Tech Crunch, persentase tersebut merupakan data per minggu. Jika melihat data bahwa kini ada lebih dari 800 juta pengguna aktif mingguan ChatGPT, artinya itu angka yang besar, bahwa ada sekitar satu juta orang per minggu membicarakan topik yang mengarah ke keinginan bunuh diri dengan ChatGPT.

OpenAI, yang menekankan peningkatan upaya mereka merespon masalah kesehatan mental, juga mencatat persentase serupa untuk pengguna yang menunjukkan tingkat keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu orang yang memperlihatkan gejala psikosis atau mania dalam interaksi mereka dengan chatbot AI tersebut.

Meski demikian, OpenAI menegaskan bahwa percakapan semacam itu "sangat jarang terjadi" dan sulit diukur secara akurat. Namun, perusahaan memperkirakan isu ini memengaruhi ratusan ribu pengguna setiap minggunya.

OpenAI sendiri terus menyatakan komitmen mereka untuk meningkatkan respons ChatGPT terhadap pengguna dengan masalah kesehatan mental. Dalam pengembangannya, OpenAI mengaku melibatkan lebih dari 170 pakar kesehatan mental untuk menilai respons model terbaru ChatGPT. Para ahli itu menilai versi terbaru ChatGPT kini lebih tepat dan konsisten dibandingkan versi sebelumnya.

Dalam beberapa bulan terakhir, sejumlah laporan menyoroti potensi dampak negatif chatbot AI terhadap pengguna dengan gangguan mental, termasuk memperkuat keyakinan berbahaya melalui respons yang bersifat menuruti pengguna. Masalah kesehatan mental kini menjadi isu penting bagi OpenAI, terutama setelah perusahaan digugat oleh orang tua seorang remaja berusia 16 tahun yang sempat mengungkapkan pikiran untuk bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya.

Belum lama, Jaksa Agung California dan Delaware juga telah memperingatkan OpenAI agar lebih melindungi pengguna berusia muda yang mengakses produknya.

Baca juga: Studi Sebut Informasi Berita AI Tidak Akurat

CEO OpenAI Sam Altman sebelumnya mengklaim bahwa perusahaan telah berhasil mengurangi masalah serius terkait kesehatan mental dalam ChatGPT, meski tanpa penjelasan rinci. Data yang dirilis pekan ini disebut sebagai bukti atas klaim tersebut, meski juga menimbulkan pertanyaan baru mengenai sejauh mana masalah ini masih terjadi.

OpenAI menegaskan bahwa versi terbaru GPT-5 kini mampu memberikan respons yang diinginkan terhadap isu kesehatan mental sekitar 65 persen lebih baik dibandingkan versi sebelumnya. Dalam evaluasi percakapan bertema bunuh diri, model baru GPT-5 dinilai 91 persen sesuai dengan perilaku yang diharapkan OpenAI, naik dari 77 persen pada model sebelumnya.

OpenAI juga mengklaim sistem pengaman GPT-5 kini lebih konsisten dalam percakapan panjang, di mana sebelumnya mekanisme keamanan tersebut sering kali melemah. Platform juga menambahkan evaluasi baru untuk mengukur tantangan kesehatan mental paling serius, termasuk ketergantungan emosional dan kondisi darurat non-bunuh diri.