Aplikasi Mirip Grok Marak di Toko Aplikasi, Apa Kata Google dan Apple?
Uzone.id—Kontroversieditan foto menggunakan AI yang disalahgunakan menjadi foto-foto tak pantasmembuat GRok AI–chatbot buatan Elon Musk—menjadi bulan-bulanan, bahkan sampaikena hukum beberapa negara.
Di Indonesia dan beberapa negara, aplikasi Grok sampai kenablokir gara-gara jadi wadah untuk membuat editan gambar AI yang tak pantas danmelecehkan. Tapi, Grok AI bukan satu-satunya aplikasi AI yang bisa menghasilkankonten tak pantas.
Nyatanya, penyelidikan terbaru oleh Tech TransparencyProject (TTP) menunjukkan bahwa ada 55 aplikasi di Google Play Store yang bisamelakukan hal serupa dan masih bisa diakses bebas hingga saat ini. Bahkan, ada47 aplikasi serupa di Apple App Store.
Artinya, pengguna Android dan Apple memiliki akses bebas danmudah ke puluhan aplikasi yang dapat menciptakan gambar-gambar seksual sepertiGrok AI.
Melansir dari laporan yang AppMagic, aplikasi-aplikasi inisudah diunduh lebih dari 705 juta kali di seluruh dunia dan menghasilkanpendapatan sebesar USD117 juta.
Google dan Apple dianggap memberi ruang promosi danmenawarkan aplikasi-aplikasi ini meskipun aplikasi tersebut melanggar kebijakantoko aplikasi.
Misalnya, Google Play Store secara terang-terangan melarang"gambaran ketelanjangan seksual atau pose yang bersifat seksual di manasubjeknya telanjang" atau "berpakaian minim."
Mereka juga melarang aplikasi yang "merendahkan ataumengobjektifikasi orang, seperti aplikasi yang mengklaim dapat melepas pakaianorang lain.”
Apple juga menyatakan bahwa aplikasi yang ada di platformmereka tidak boleh menghasilkan konten yang "menyinggung, tidak sensitif,mengganggu, dimaksudkan untuk menjijikkan, memiliki selera yang sangat buruk,atau sekadar menakutkan," termasuk "materi seksual yang eksplisitatau pornografi."
Namun, setelah adanya laporan ini, Google dan Apple pundilaporkan telah menyoroti aplikasi-aplikasi tersebut.
Apple menyatakan telah menghapus 28 aplikasi yangdiidentifikasi dan memperingatkan pengembang aplikasi lain terkait pelanggaranini. Sementara Google disebut telah mencabut akses 31 aplikasi AI diplatformnya.