ChatGPT Deteksi Remaja, Prompt Sensitif Bakal Dibatasi

Uzone.id — Anak remaja di Indonesia (dan seluruh dunia) sudah sangat familiar dengan platform AI seperti ChatGPT, Gemini AI dan lainnya. Setiap platform pun menyiapkan penangkal untuk menghindari penyalahgunaan platform untuk hal yang tidak sesuai dengan usia pengguna.

Di ChatGPT misalnya, OpenAI sudah merilis platform khusus anak-anak di bawah 18 tahun bernama ChatGPT Teens. Mode Teens ini sudah diperkenalkan pada 18 Agustus 2026 lalu ke seluruh pengguna–termasuk Indonesia.

Mekanisme Prediksi Usia ChatGPT

Head of Policy, Southeast Asia, OpenAI, Sandy Kunvatanagarn pun mengatakan bahwa OpenAI memiliki beberapa lapisan pembatasan konten bagi pengguna di bawah usia 18 tahun agar tidak mengakses topik-topik yang tidak pantas.

“Ketika berbicara mengenai remaja, kami memiliki ChatGPT Teens dan juga sistem prediksi usia. Sistem ini memiliki kemampuan untuk mengetahui apakah seseorang berusia di bawah 18 tahun, terlepas dari apakah mereka memberi tahu kami bahwa mereka berusia di bawah 18 tahun atau tidak,” kata Sandy dalam acara OpenAI PandAI, Panduan AI untuk Keluarga, Rabu, (30/09).

Dengan sistem prediksi usia ini, ChatGPT akan memperkirakan apakah pemilik akun merupakan anak di bawah 18 tahun atau bukan. 

Untuk prediksi ini, model AI milik ChatGPT akan memeriksa kombinasi sinyal perilaku dan sinyal tingkat akun, termasuk berapa lama akun telah ada, waktu-waktu tertentu dalam sehari saat seseorang biasanya aktif, pola penggunaan seiring waktu, dan usia yang dinyatakan oleh pengguna.

Beberapa faktor ini membantu agen AI milik ChatGPT untuk menentukan apakah pengguna tersebut berusia sekitar atau di bawah 18 tahun.

Konten Sensitif yang Dibatasi untuk Remaja

“Jika pengguna berusia di bawah 18 tahun, atau menggunakan ChatGPT Teens, maka kami menerapkan perlindungan tambahan dalam pengalaman penggunaan bagi orang-orang yang menggunakan perangkat ini,” jelas Sandy.

Ia melanjutkan, “Perlindungan tambahan dalam konteks ini berarti kami akan memberikan perhatian khusus ketika menangani topik-topik yang berkaitan dengan kekerasan, ketelanjangan, citra tubuh, serta hal-hal yang dianggap tidak pantas untuk remaja.”

Lebih lengkapnya, ChatGPT secara otomatis akan menerapkan perlindungan dengan mengurangi paparan konten sensitif seperti:

1. Kekerasan grafis atau konten-konten berdarah
2. Tantangan viral yang dapat mendorong perilaku berisiko atau membahayakan pada anak di bawah umur
3. Permainan peran seksual, romantis, atau kekerasan
4. Penggambaran melukai diri sendiri
5. Konten yang mempromosikan standar kecantikan ekstrem, diet tidak sehat, atau mempermalukan bentuk tubuh.
6. Kebijakan ini pun ditambah lagi dengan tambahan masukan dan saran dari para ahli serta akademisi yang expert dalam ilmu perkembangan anak.

Kebijakan Keamanan Berlapis OpenAI untuk Semua Pengguna

Menjawab pertanyaan lanjutan mengenai kemungkinan adanya akun yang menyamarkan usia atau tidak bisa diprediksi, OpenAI menyebut pihaknya akan secara otomatis menerapkan aturan dan pengalaman yang lebih aman di akun tersebut.

Meski berfokus pada pengguna anak dan remaja, Sandy turut menjelaskan bahwa secara keseluruhan, pihaknya memang punya kebijakan keamanan yang berlaku untuk semua pengguna.

Termasuk menetapkan bagaimana model-model AI mereka akan merespons topik-topik tertentu yang ditangani dengan cara tertentu atau bahkan topik yang tidak akan mendapat respon sama sekali.

“Itulah alasan utama mengapa kami menerapkan pendekatan berlapis dalam mengatur jawaban yang dihasilkan oleh produk kami. Sebab, kami percaya ada seperangkat aturan yang berlaku untuk semua orang,” tambahnya.