Gara-gara Grok, Meta hingga TikTok Dituding Sebar Foto AI Tak Senonoh

Uzone.id— Kasuspenyalahgunaan AI untuk konten-konten tak senonoh tak hanya menimpa Grok AIsaja, baru-baru ini AI milik Meta dan juga media sosial TikTok ikut terkenatuduhan telah menyebarkan konten AI tak pantas yang menargetkan anak-anak.

Hal ini disampaikan oleh Perdana Menteri Spanyol yang telahmemerintahkan jaksa penuntut umum untuk menyelidiki platform media sosial X,Meta, dan TikTok atas dugaan tersebut.

“Platform-platform ini merusak kesehatan mental, martabat,dan hak-hak anak-anak kita,” tulis Perdana Menteri Pedro Sanchez di akun X-nya,dikutip dariReuters,Rabu, (18/02).

Praktik ini mencakup perilaku anti-persaingan dalamperiklanan digital hingga desain yang sengaja dibuat agar membuat penggunasemakin kecanduan.

Spanyol sendiri menjadi salah satu negara yang tengahmemperketat penggunaan media sosial untuk pengguna di bawah umur. Salah satunyaadalah pelarangan akses ke platform media sosial bagi mereka yang berusia dibawah 16 tahun, dengan menggambarkan platform media sosial sebagai “Wild Westdigital”.

Selain Spanyol, beberapa negara seperti Australia, Malaysiahingga Indonesia juga sudah memperketat aturan soal pengguna di bawah umur.Termasuk meminta platform untuk menyediakan fitur verifikasi usia.

Contohnya, platform media sosial seperti Facebook dan TikToksudah mewajibkan syarat pendaftaran pengguna hanya untuk mereka yang berusiaminimal 13 tahun. Meta juga sudah menyediakan akun khusus remaja yang dibuatlebih ramah dan aman.