Taylor Swift Jadi Korban AI, CEO Microsoft Ikut Geram

Uzone.id – Salah satu hal berbahaya dari perkembangan AI adalah munculnya kasus ‘pelecehan secara digital’ akibat editan foto AI termasuk deepfake yang bersifat tak senonoh dan cenderung melecehkan seseorang.

Taylor Swift jadi salah satu korbannya. Semenjak beberapa hari lalu, lini masa X dihebohkan dengan editan foto AI Taylor Swift dengan unsur pornografi. Tentu gambar ini menuai reaksi negatif dari warganet.

Mereka mengecam pembuat editan tersebut dan menyebutnya sebagai pelecehan digital. Tidak hanya warganet saja yang geram, editan ini menjadi concern banyak pihak termasuk pemerintah AS dan CEO Microsoft, Satya Nadella.

Postingan tersebut sudah dihapus oleh pihak X dan secara tegas menyebut postingan tersebut sebagai pelanggaran platform.

“Memposting gambar Ketelanjangan Non-Konsensual (NCN) dilarang keras di X dan kami tidak memiliki kebijakan toleransi terhadap konten tersebut,” tulis X dalam keterangan yang dibagikan pada Jumat, (26/01).

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…

— Safety (@Safety) January 26, 2024

Pihak platform juga mengklaim akan secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan pemblokiran pada akun yang bertanggung jawab.

Pihak Gedung Putih AS menegaskan harus adanya kebijakan legislasi untuk melindungi masyarakat dari gambar palsu yang dihasilkan AI.

“Legislasi perlu disahkan untuk melindungi masyarakat dari gambar seksual palsu yang dihasilkan oleh AI,” kata Karine Jean-Pierre selaku sekretaris pers Gedung Putih dikutip dari The Verge, Sabtu, (27/01).

Ia mengatakan kalau kejadian tersebut sangat mengkhawatirkan dan mengatakan kalau ini adalah satu masalah AI yang diprioritaskan oleh pemerintah AS.

“Tentu saja Kongres harus mengambil tindakan legislatif, itulah cara Anda menangani masalah ini,” tambahnya.

Selain gedung AS, anggota kongres Partai Demokrat untuk New York Yvette D. Clarke juga mengatakan kalau deepfake dan editan AI yang menjurus pada pelecehan seringkali menimpa perempuan semenjak bertahun-tahun lalu.

“Apa yang terjadi pada Taylor Swift bukanlah hal baru. Selama bertahun-tahun, perempuan telah menjadi sasaran deepfake [tanpa] persetujuan mereka. Dan kemajuan AI ini membuat deepfake menjadi lebih mudah dan murah. Ini adalah masalah yang harus diselesaikan oleh kedua belah pihak dan bahkan Swifties,” katanya dikutip dari The Guardian.

CEO Microsoft, Satya Nadella juga ikut buka suara soal kejadian yang menimpa penyanyi terkenal dunia ini. Ia mengatakan kalau semua pihak harus segera mengambil tindakan soal bahaya AI tersebut.

“Ya, kita harus bertindak,” kata Nadella menjawab pertanyaan tentang kasus deepfake Swift.

"Saya pikir kita semua akan mendapat manfaat ketika dunia online ini aman. Oleh karena itu, menurut saya tidak ada orang yang ingin dunia online tidak aman baik bagi pembuat konten maupun konsumen konten. Oleh karena itu, menurut saya, kita perlu melakukan hal-hal tersebut. bergerak cepat dalam hal ini,” tambahnya.

Sebelumnya, gambar-gambar deepfake AI Taylor Swift tersebar di seluruh X khususnya pada hari Rabu (24/01), postingan gambar tersebut mencapai 45 juta penayangan sebelum dihapus.

X tidak langsung menanggapi dan terkesan lambat dalam merespons, postingan tersebut diketahui tetap bertahan selama sekitar 17 jam sehingga  menyebar ke akun yang lebih kecil dan hingga saat ini masih tersedia di X.

Walau begitu, penggemar hingga netizen secara luas serentak melaporkan postingan terkait hal hal ini.