3 hours ago
3
REPUBLIKA.CO.ID, JAKARTA -- OpenAl merilis data baru yang menunjukkan betapa banyaknya pengguna ChatGPT yang bergulat dengan masalah kesehatan mental. Perusahaan kecerdasan buatan (AI) asal AS itu memperkirakan lebih dari satu juta pengguna ChatGPT setiap pekannya terlibat dalam percakapan yang menunjukkan indikasi eksplisit perencanaan atau niat bunuh diri.
Dalam laporan yang dirilis pada Senin (27/10/2025), OpenAl menyebut sekitar 0,15 persen dari total pengguna aktif pekanan ChatGPT menunjukkan tanda-tanda tersebut. Dengan jumlah pengguna aktif pekanan yang mencapai lebih dari 800 juta orang, artinya lebih dari sejuta pengguna terlibat dalam pembicaraan terkait bunuh diri setiap pekan.
Tidak ada kode iklan yang tersedia.Selain itu, OpenAl menemukan persentase serupa pengguna yang menunjukkan keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu pengguna lainnya yang menampilkan gejala psikosis atau mania dalam percakapan mereka. "Percakapan seperti ini tergolong sangat jarang, namun sulit diukur secara akurat. Meski demikian, kami memperkirakan ratusan ribu pengguna menghadapi masalah serupa setiap pekannya," kata OpenAl dalam laporan tersebut, seperti dilansir laman TechCrunch, Rabu (29/10/2025).
Data itu dirilis bersamaan dengan pengumuman upaya baru OpenAl untuk memperkuat cara ChatGPT menanggapi pengguna dengan masalah kesehatan mental. Perusahaan mengklaim telah bekerja sama dengan lebih dari 170 profesional kesehatan mental untuk memperbaiki cara chatbot berinteraksi dengan pengguna yang berada dalam krisis mental.
OpenAl menyebut versi GPT-5 memberikan respons yang diinginkan sekitar 65 persen lebih sering dibandingkan versi terdahulu. Pada pengujian percakapan dengan konteks bunuh diri, GPT-5 disebut memenuhi standar perilaku yang diharapkan sebesar 91 persen, meningkat dari 77 persen pada model GPT-5 sebelumnya.
Selain upaya ini, OpenAl juga menambahkan evaluasi baru dalam pengujian model Al-nya, termasuk untuk mendeteksi ketergantungan emosional dan situasi darurat kesehatan mental non-bunuh diri. Perusahaan juga memperkenalkan kontrol baru bagi orang tua serta sistem prediksi usia otomatis untuk mendeteksi pengguna anak-anak, yang akan secara otomatis mengaktifkan perlindungan tambahan.
Di sisi lain, dalam beberapa bulan terakhir, muncul laporan yang menyoroti bagaimana chatbot Al dapat memperburuk kondisi mental pengguna. Para peneliti menemukan bahwa chatbot Al dapat menjerumuskan pengguna pada pandangan berbahaya atau delusional.
OpenAl saat ini juga sedang menghadapi gugatan hukum, termasuk dari orang tua seorang remaja 16 tahun yang diketahui mengutarakan pikiran bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya. Sementara itu, Jaksa Agung California dan Delaware juga telah memperingatkan OpenAl agar meningkatkan perlindungan terhadap pengguna muda di tengah rencana restrukturisasi perusahaan.
