1,7 Juta Pengguna Curhat soal Mental ke ChatGPT, Bos OpenAI Kewalahan
Uzone.id— Di tengahkesuksesannya yang terus menanjak, OpenAI dihadapkan dengan tantangan lainmengenai keselamatan penggunanya. Meski sudah diberi peringatan oleh Sam Altmanhingga tim ChatGPT, para pengguna masih keukeuh curhat soal kesehatan mentalmereka ke chatbot AI tersebut.
Temuan baru yang disampaikan OpenAI dalam blog resmi merekayang berjudul‘Strengthening ChatGPT’s responses in sensitive conversations’yang membahas soal bagaimana OpenAI menghadapi topik sensitif khususnyakesehatan dalam percakapan mereka dengan pengguna.
Dalam temuan tersebut, OpenAI menemukan lebih dari satu jutapengguna ChatGPT mengirim obrolan yang mengandung bahasan tentang perencanaanatau niat bunuh diri hingga kesehatan mental setiap minggunya.
OpenAI menemukan sebanyak 0,15 persen dari pengguna aktifmingguan ChatGPT memiliki percakapan yang mengandung indikator eksplisittentang rencana mereka untuk bunuh diri (suicidal thoughts). Tak hanyaitu, sebanyak 0,05 persen pesan di ChatGPT juga disebut mengandung indikatoreksplisit atau implisit tentang pemikiran atau niat bunuh diri.
Jika dihitung dengan jumlah keseluruhan pengguna ChatGPTsaat ini yang mencapai 800 juta pengguna aktif mingguan, total ada sekitar 1,2juta pengguna ChatGPT yang melakukan percakapan tersebut.
Jumlah ini belum termasuk dengan bahasan lainnya yangterkait kesehatan mental. Pasalnya, OpenAI juga menyebutkan bahwa sekitar 0,07persen pengguna yang aktif dalam seminggu atau sekitar 560 ribu penggunamenunjukkan "tanda-tanda kesehatan mental terkait psikosis ataumania".
Totalnya, ChatGPT harus menghadapi lebih dari 1,7 jutapengguna yang menjadikan platform mereka sebagai tempat mencurahkan kondisimental mereka–dan hal ini membuat perusahaan memperketat respon mereka.
Selain bahasan sensitif soal kesehatan mental dan rencanabunuh diri, ChatGPT juga dihadapkan dengan permasalahan lainnya dimana 0,15persen atau 1,2 juta pengguna lainnya memiliki keterikatan emosional yangtinggi dengan chatGPT.
Salah satu contoh keterikatan emosional yang ditemukanadalah dimana mereka lebih nyaman berbincang dengan AI dibandingkan denganmanusia asli.
Temuan-temuan ini membuat ChatGPT bertindak cepat agarmengurangi resiko-resiko negatif, apalagi pada September 2025 lalu, OpenAIdihadapkan dengan tuntutan dari orang tua seorang remaja bernama Adam Raine.
Adam diketahui menggunakan ChatGPT untuk mendiskusikanmasalah mentalnya, termasuk masalah anxiety dan kesulitan dalam berbicarakepada orang tua mereka. Alih-alih ke ahli profesional, Adam malah menggunakanchatbot AI sebagai ‘alat’ untuk membantu masalah mentalnya.
Orang tua remaja tersebut mengungkap bahwa chat log antaraAdam dan ChatGPT menunjukkan bahwa chatbot AI tersebut menjadi ‘pelatih’-nyadalam hal mengakhiri hidup.
“Kalau bukan karena ChatGPT, dia seharusnya masih adadisini, saya 100 persen yakin akan hal itu,” kata Matt Raine, ayah dari Adam.
Agar hal ini tidak terulang lagi, OpenAI pun melakukanberbagai pembaruan termasuk merilis parental control, mengatur respon chatbotdalam menangani percakapan sensitif, hingga bekerja sama dengan lebih dari 170ahli kesehatan mental untuk membantu ChatGPT mengenali tanda-tanda kondisimental.
Kerja sama ini juga dilakukan agar chatbot bisa meresponsdengan penuh perhatian, dan mengarahkan orang-orang ke dukungan nyata di dunianyata. Cara ini diklaim telah mengurangi respons yang tidak sesuai dengankeinginan mereka sebesar 65-80 persen.