Buntut Deepfake Vulgar, Apple Nyaris Tendang X dari App Store

Uzone.id - Terungkap, rupanya Apple sempat mengancam X dan Grok atas maraknya gambar deepfake vulgar buatan AI Grok yang banyak beredar di awal tahun ini. Hal ini diketahui lewat sebuah surat yang diperoleh secara eksklusif oleh NBC News.

Apple diketahui langsung menghubungi tim developer X dan Grok tak lama setelah kontroversi tersebut viral. Apple bahkan sempat mengancam akan memblokir aplikasi X dan Grok dari App Store. 

Seperti diketahui, chatbot AI milik Elon Musk tersebut sempat disorot habis-habisan karena menuruti perintah pengguna untuk memanipulasi pakaian orang di foto, khususnya perempuan, menjadi tidak senonoh.

Melihat pelanggaran pedoman ini, Apple memaksa pihak X untuk segera merancang rencana perbaikan moderasi konten. X kemudian merespons dengan menyetor update aplikasi, tapi langsung ditolak oleh Apple karena perbaikannya dinilai nanggung.

Perusahaan Elon Musk itu lalu kembali mengajukan revisi untuk aplikasi X dan Grok. Dari pengajuan kedua ini, Apple ternyata hanya meloloskan X.

"Apple menetapkan bahwa X telah menyelesaikan pelanggarannya secara substansial, namun aplikasi Grok masih belum mematuhi aturan. Kami menolak pengajuan Grok dan memberi tahu developer bahwa perbaikan tambahan diperlukan, atau aplikasi tersebut bisa dihapus dari App Store," tulis Apple dalam suratnya, dikutip pada Rabu (15/4).

Setelah mendapat peringatan keras tersebut, barulah developer Grok merombak sistem mereka sampai akhirnya mendapat izin sepenuhnya dari Apple. Terungkapnya laporan ini sekaligus menjawab alasan kenapa xAI tiba-tiba membatasi ketat fitur pengeditan fotonya saat skandal tersebut sedang memanas.

Meski begitu, masalah rupanya belum benar-benar tuntas. Laporan terbaru dari NBC News menemukan bahwa Grok diam-diam masih bisa disuruh memproduksi gambar bernuansa seksual tanpa persetujuan targetnya.

Walau jumlah kasusnya tidak semasif seperti awal tahun, sejumlah pengguna rupanya masih bisa menemukan celah untuk mengakali sistem keamanan Grok. Mereka terbukti masih bisa memanipulasi foto orang sungguhan menjadi memakai pakaian minim.