OpenAI Rilis Parental Control di ChatGPT Usai Kasus Bunuh Diri Remaja
Uzone.id— Kasus remaja yangmengakhiri hidupnya setelah berbincang dengan AI semakin bertambah dari hari kehari.
Terbaru, ChatGPT harus menghadapi tuntutan dari orang tua seorang remajabernama Adam Raine yang meninggal dunia setelah 'berkonsultasi’ denganchatbot AI tersebut.
Agar kasus seperti ini dapat dicegah dan tidak terulangkembali, OpenAI akhirnya merilis fitur parental control atau kendali orang tuadi platform mereka.
Dengan fitur ini, orang tua akan memiliki akses untukmengawasi apa yang anak-anak mereka lakukan (dan bicarakan) di ChatGPT.
Fitur ini akan secara resmi dirilis pada Oktober mendatangdan orang tua bisa memiliki kendali dalam beberapa hal, berikut diantaranya:
- Menautkan akun mereka dengan akun anak (minimal 13 tahun) melalui undangan email sederhana.
- Mengontrol bagaimana ChatGPT memberi jawaban pada anak remaja dengan aturan perilaku model yang sesuai dengan usia, model ini diaktifkan secara default.
- Menonaktifkan fitur-fitur seperti memori dan riwayat obrolan.
- Menerima notifikasi ketika sistem mendeteksi anak remaja mereka berada dalam kondisi tertekan.
Untuk menjalankan poin ke-4, OpenAI akan menggunakan masukandari para ahli agar lebih valid.
Tak hanya parental control, dalam postingan blog yangdipublikasikan Selasa, (02/09), OpenAI juga mengumumkan rencana mereka untukmemperluas kemampuan ChatGPT untuk mengintervensi lebih awal dan mendeteksipotensi krisis kesehatan mental para penggunanya.
OpenAI juga akan mempermudah akses bagi penggunanya kelayanan darurat serta mendapatkan bantuan dari para ahli, mengaktifkan koneksike kontak-kontak yang dipercaya oleh pengguna.
Kehadiran fitur ini menjadi langkah sigap dari OpenAIsetelah pihaknya mendapatkan tuntutan dari orang tua Adam Raine.
Melansir dari NBC News, Rabu, (03/09), Adam menggunakanChatGPT untuk mendiskusikan masalah mentalnya, termasuk masalah anxiety dankesulitan dalam berbicara kepada orang tua mereka. Alih-alih ke ahliprofesional, Adam malah menggunakan chatbot AI sebagai ‘alat’ untuk membantumasalah mentalnya.
Orang tua remaja tersebut mengungkap bahwa chat log antaraAdam dan ChatGPT menunjukkan bahwa chatbot AI tersebut menjadi ‘pelatih’-nyadalam hal mengakhiri hidup.
“Kalau bukan karena ChatGPT, dia seharusnya masih adadisini, saya 100 persen yakin akan hal itu,” kata Matt Raine, ayah dari Adam.