OpenAI Rilis Parental Control di ChatGPT Usai Kasus Bunuh Diri Remaja

Uzone.id — Kasus remaja yang mengakhiri hidupnya setelah berbincang dengan AI semakin bertambah dari hari ke hari.

Terbaru, ChatGPT harus menghadapi tuntutan dari orang tua seorang remaja bernama Adam Raine yang meninggal dunia setelah 'berkonsultasi’ dengan chatbot AI tersebut.

Agar kasus seperti ini dapat dicegah dan tidak terulang kembali, OpenAI akhirnya merilis fitur parental control atau kendali orang tua di platform mereka.

Dengan fitur ini, orang tua akan memiliki akses untuk mengawasi apa yang anak-anak mereka lakukan (dan bicarakan) di ChatGPT.

Fitur ini akan secara resmi dirilis pada Oktober mendatang dan orang tua bisa memiliki kendali dalam beberapa hal, berikut diantaranya:

1. Menautkan akun mereka dengan akun anak (minimal 13 tahun) melalui undangan email sederhana.
2. Mengontrol bagaimana ChatGPT memberi jawaban pada anak remaja dengan aturan perilaku model yang sesuai dengan usia, model ini diaktifkan secara default.
3. Menonaktifkan fitur-fitur seperti memori dan riwayat obrolan.
4. Menerima notifikasi ketika sistem mendeteksi anak remaja mereka berada dalam kondisi tertekan. 

Untuk menjalankan poin ke-4, OpenAI akan menggunakan masukan dari para ahli agar lebih valid.

Tak hanya parental control, dalam postingan blog yang dipublikasikan Selasa, (02/09), OpenAI juga mengumumkan rencana mereka untuk memperluas kemampuan ChatGPT untuk mengintervensi lebih awal dan mendeteksi potensi krisis kesehatan mental para penggunanya.

OpenAI juga akan mempermudah akses bagi penggunanya ke layanan darurat serta mendapatkan bantuan dari para ahli, mengaktifkan koneksi ke kontak-kontak yang dipercaya oleh pengguna.

Kehadiran fitur ini menjadi langkah sigap dari OpenAI setelah pihaknya mendapatkan tuntutan dari orang tua Adam Raine. 

Melansir dari NBC News, Rabu, (03/09), Adam menggunakan ChatGPT untuk mendiskusikan masalah mentalnya, termasuk masalah anxiety dan kesulitan dalam berbicara kepada orang tua mereka. Alih-alih ke ahli profesional, Adam malah menggunakan chatbot AI sebagai ‘alat’ untuk membantu masalah mentalnya.

Orang tua remaja tersebut mengungkap bahwa chat log antara Adam dan ChatGPT menunjukkan bahwa chatbot AI tersebut menjadi ‘pelatih’-nya dalam hal mengakhiri hidup.

“Kalau bukan karena ChatGPT, dia seharusnya masih ada disini, saya 100 persen yakin akan hal itu,” kata Matt Raine, ayah dari Adam.