Meta AI Deteksi Curhatan Sensitif Remaja, Langsung Lapor Orang Tua

Uzone.id — Meta menghadirkan fitur perlindungan baru bagi pengguna remaja yang menggunakan Meta AI. Melalui fitur baru ini, orang tua akan menerima notifikasi apabila percakapan anak mereka dengan Meta AI menunjukkan indikasi adanya tekanan emosional, termasuk bahasan mengenai tindakan menyakiti diri sendiri hingga bunuh diri.

“Kami akan mengirimkan peringatan kepada orang tua yang mengaktifkan fitur pengawasan ketika percakapan remaja mereka dengan Meta AI mengindikasikan pikiran untuk bunuh diri atau melukai diri sendiri,” kata perwakilan Meta dalam keterangan yang diterima Uzone.id, Jumat, (17/07).

Mekanisme Notifikasi dan Dukungan

Fitur ini tersedia bagi orang tua yang menggunakan fitur Parental Supervision di Instagram yang terhubung ke akun anak-anak mereka.

Selain mengirimkan notifikasi, Meta juga akan menyediakan panduan dari para ahli untuk membantu orang tua memulai percakapan yang tepat dengan anak mereka.

“Langkah ini kami lakukan dengan memvalidasi perasaan para remaja, sekaligus membantu mereka mendapatkan dukungan yang dibutuhkan, mulai dari orang tua, bantuan profesional, hingga layanan darurat,” tambah Meta.

Kolaborasi dengan Ahli Kesehatan Mental

Saat ini Meta bekerjasama dengan puluhan ahli dan juga organisasi kesehatan mental untuk menyempurnakan AI mereka agar bisa merespon dengan tepat mengenai prompt-prompt yang bernada sensitif.

Total Meta sudah bekerjasama dengan 75 ahli kesehatan mental dan juga organisasi seperti AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors yang dibentuk langsung oleh Meta.

Nantinya, ketika seorang remaja menunjukkan tanda-tanda ingin bunuh diri atau melukai diri sendiri saat berinteraksi dengan Meta AI, sistem akan langsung mengarahkan mereka ke layanan bantuan krisis dan mendorong mereka untuk berbicara kepada orang tua, konselor, atau orang dewasa yang dipercaya.

Tak hanya itu, dengan fitur notifikasi di Parental Supervisor nanti, Meta juga akan langsung memberitahu orang tua apabila percakapan tersebut menunjukkan adanya risiko.

Untuk mengurangi kesalahan deteksi, seluruh percakapan yang ditandai AI akan melalui peninjauan manual sebelum notifikasi dikirim kepada orang tua. Jika isi percakapan masih dianggap belum jelas, Meta mengaku akan tetap mengutamakan langkah pencegahan dengan mengirimkan pemberitahuan.

Saat ini, fitur notifikasi tersebut sudah tersedia bagi pengguna di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur ini dapat dihadirkan secara global pada akhir tahun 2026.

Cara Mengaktifkan Parental Supervision

Untuk menggunakan fitur ini, pengguna (orang tua) diharuskan untuk terhubung dengan akun anak-anak (usia 13-17 tahun) dengan mengundang akun anak ke fitur Parental Supervision yang ada di menu Pusat Keluarga (Family Center).

Pastikan lebih dulu akun orang tua dan anak saling follow agar proses lebih mudah. Setelah membuka menu Family Center dan Supervision > buat undangan > lalu pilih akun anak  > kirim undangan tersebut.

Selanjutnya, di akun anak-anak, orang tua bisa langsung meminta anak untuk membuka pesan WhatsApp/DM berisi undangan > klik undangan > klik Izinkan atau Terima Undangan.

Perluasan Fitur Keamanan Lainnya

Selain memberikan notifikasi kepada orang tua, Meta juga sedang mengembangkan sistem yang dapat menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang tinggi dan mendesak, baik pada pengguna remaja maupun dewasa.

Menurut Meta, sepanjang tahun lalu perusahaan telah mengirimkan lebih dari 19 ribu rujukan kepada layanan darurat di berbagai negara untuk membantu menangani pengguna yang diduga berisiko melakukan bunuh diri.

Selain itu, Meta juga memperluas pengaturan Limited Content ke Meta AI dimana dengan pengaturan ini, akun remaja akan otomatis mendapatkan pengalaman AI yang lebih sesuai dengan usia mereka.

Melalui batasan ini, Meta AI dilarang merespons percakapan bernuansa romantis atau seksual dengan remaja, tidak memberikan resep minuman beralkohol, serta mengarahkan percakapan ke topik yang lebih aman.

Jika orang tua mengaktifkan fitur Limited Content di Instagram, pembatasan yang sama juga akan berlaku saat remaja menggunakan Meta AI.