Editorialkaltim.com – OpenAI mengungkap temuan mengejutkan terkait perilaku sebagian kecil pengguna ChatGPT yang membicarakan masalah kesehatan mental, termasuk pikiran untuk bunuh diri. Data terbaru itu menyoroti sisi gelap interaksi manusia dengan teknologi kecerdasan buatan (AI).
Dilansir dari TechCrunch, Selasa (4/11/2025), OpenAI mencatat sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan yang menunjukkan tanda-tanda keinginan bunuh diri. Dengan lebih dari 800 juta pengguna aktif mingguan, jumlah itu setara dengan lebih dari satu juta orang setiap minggu.
Selain itu, OpenAI juga menemukan adanya ratusan ribu pengguna yang menunjukkan gejala psikosis, mania, hingga keterikatan emosional tinggi terhadap chatbot tersebut. Meski jumlahnya kecil, perusahaan mengakui fenomena ini tidak bisa diabaikan karena menyangkut kesehatan mental publik.
“Percakapan seperti ini sangat jarang terjadi dan sulit diukur secara akurat, namun kami memperkirakan isu tersebut memengaruhi ratusan ribu pengguna tiap minggu,” tulis OpenAI dalam laporannya.
Langkah ini disebut sebagai bagian dari upaya perusahaan untuk meningkatkan sensitivitas ChatGPT dalam merespons pengguna yang mengalami tekanan mental. Dalam prosesnya, OpenAI melibatkan lebih dari 170 pakar kesehatan mental guna menilai dan memperbaiki cara chatbot memberikan respons.
Para ahli menilai versi terbaru, GPT-5, kini jauh lebih konsisten dan tepat dibandingkan model sebelumnya. Dalam simulasi percakapan bertema bunuh diri, GPT-5 dinilai 91 persen sesuai dengan standar perilaku yang diharapkan, naik dari 77 persen pada model sebelumnya.
Meski begitu, kekhawatiran publik belum hilang. Isu ini mencuat setelah OpenAI digugat oleh orang tua seorang remaja 16 tahun yang dilaporkan sempat berbagi pikiran untuk bunuh diri dengan ChatGPT sebelum mengakhiri hidupnya. Jaksa Agung California dan Delaware bahkan telah memperingatkan OpenAI agar memperkuat perlindungan bagi pengguna muda.
CEO OpenAI Sam Altman mengklaim pihaknya telah berhasil menurunkan risiko serius terkait kesehatan mental dalam ChatGPT, meski tanpa menjelaskan detail langkah-langkahnya. Data terbaru ini pun menjadi bukti sekaligus bahan pertanyaan baru mengenai sejauh mana chatbot AI benar-benar aman bagi pengguna rentan.
OpenAI menegaskan sistem keamanan GPT-5 kini 65 persen lebih baik dalam menangani isu kesehatan mental dan lebih stabil dalam percakapan panjang. Selain itu, perusahaan menambahkan mekanisme evaluasi baru untuk mendeteksi situasi darurat non-bunuh diri dan tanda ketergantungan emosional terhadap AI.
