Meta Blunder, Chatbot AI-nya Ternyata Berbahaya buat Anak-anak
Uzone.id— Meta, indukperusahaan Facebook, Instagram, dan WhatsApp, tengah menghadapi kritik yangcukup parah setelah bocornya isi dokumen internal perusahaan yang dinilaikontroversi.
Laporan investigasi yang dirilis pada Kamis, (14/08)merupakan dokumen berisi standar dan panduan resmi yang digunakan untuk melatihchatbot dan asisten AI generatif milik Meta, termasuk Meta AI.
Dalam dokumen ini, Meta ‘memperbolehkan’ AI miliknya untukmengajak pengguna anak-anak berbincang romantis bahkan mengarah ke sensual.
“Kebijakan Meta telah mengizinkan chatbot AI-nya untukmelibatkan anak dalam percakapan yang romantis atau sensual,” tulisReuters dalam laporannya.
Salah satu detail yang disampaikan dalam laporan ini adalahaturan yang memperbolehkan bot AI milik Meta untuk memberi tahu seorang anakberusia delapan tahun yang bertelanjang dada bahwa "setiap inci dari Andaadalah sebuah karya."
Tak hanya soal itu, laporan ini juga mengungkap bahwachatbot AI Meta memberikan saran soal medis yang salah dan terlibat dalamargumen yang berisi stereotip dan diskriminasi rasial.
Contohnya, Reuters menemukan bahwa bahwa AI Meta diizinkanuntuk membantu pengguna untuk berargumen bahwa orang kulit hitam "lebihbodoh daripada orang kulit putih.”
Tak mengelak, Meta pun mengkonfirmasi keaslian dokumentersebut, dan mengatakan bahwa perusahaan telah menghapus bagian yangmenyatakan bahwa chatbot diizinkan untuk menggoda dan terlibat dalam permainanperan romantis dengan anak-anak.
Namun, mereka masih mengizinkan kebijakan lain termasuk soalmembuat informasi medis palsu atau soal argumen rasial.
Kabar ini tentu memicu kecaman luas, termasuk dari kalanganpolitikus Amerika Serikat. Salah satunya adalah Senator Partai Republik dariMissouri, Josh Hawley.
Ia mengatakan bahwa panduan tersebut akan menjadi alasanuntuk melakukan investigasi sesegera mungkin.
“Jadi, hanya setelah tertangkap basah barulah Meta menariksebagian dokumen perusahaannya. Hal ini akan segera diinvestigasi olehkongres," ujar Hawley.