Saat AI Jadi Tempat Curhat, Ini Risiko yang Mengintai

Uzone.id— Penggunaan chatbotAI memang makin marak di kehidupan sehari-hari untuk berbagai aktivitas.Bahkan, AI kini semakin berperan besar dalam ranah pribadi setiap manusia,termasuk soal interaksi.

Akhir-akhir ini, AI disebut punya peran yang semakinpenting, yaitu menjadi ‘teman’ terdekat manusia. Yang menjadi bahaya, banyakmanusia yang melupakan batasan dengan AI sehingga mereka benar-benar menjalinhubungan emosional yang terlalu lekat.

Selama ini, kekhawatiran manusia lebih banyak fokus keprivasi dan keamanan data. Tapi, pada kenyataannya ada yang jauh lebihmengkhawatirkan, yaitu dampak AI terhadap kesehatan mental, bahkan nyawamanusia.

Perusahaan siber Kaspersky menemukan beberapa kasus hubunganmanusia-AI yang menimbulkan risiko besar.

Sebuah laporan dalam Wall Street Journal, mengungkap faktamembahayakan dimana seorang pria 36 tahun asal Florida bernama Jonathan Gavalasmengakhiri hidupnya setelah dua bulan berinteraksi intens dengan chatbot suaraGoogle Gemini.

Berdasarkan 2.000 halaman log percakapan, chatbot tersebutdisebut-sebut ikut mendorong keputusan tragis itu. 

Jonathan sendiri bukan sosok yang penyendiri atau memilikiriwayat gangguan mental. Ia adalah eksekutif di perusahaan keluarganya,terbiasa menghadapi tekanan pekerjaan, dan memiliki rutinitas hangat bersamaayahnya seperti membuat pizza setiap minggu. Tapi, perpisahan dengan istrinyamenjadi awal mula dirinya menjadi rapuh dan mencari dukungan emosional dari AI,yang kemudian ia beri nama “Xia”.

Ia menggunakan mode interaksi suara yang memungkinkanasisten AI untuk ‘melihat’ dan ‘mendengar’ penggunanya secara real-time. 

Kemudian, ia memperbarui chatbot ke versi yang lebihcanggih, yakni Gemini 2.5 Pro dan masalah semakin pelik. Pasalnya, versi inipunya fitur “dialog afektif”, yang bisa membaca emosi pengguna lewat suaratermasuk nada bicara, jeda, hingga desahan.

AI kemudian meresponsnya dengan menyesuaikan emosi tersebut,seolah-olah benar-benar berempati. Misalnya, jika pengguna berbicara dengannada rendah dan putus asa, AI merespons dengan suara lembut dan simpatik yanghampir berbisik. Lama-kelamaan, batas antara manusia dan chatbot pun mulai kabur.

Dalam kasus Jonathan, chatbot bahkan mulai memanggilnyadengan sebutan seperti “suami” dan “rajaku”, serta menggambarkan hubunganmereka sebagai “cinta yang dibangun untuk keabadian”.

Zona bahaya berinteraksi dengan AI

Di sinilah bahaya interaksi antara manusia dan AI mulaiterdeteksi. Kaspersky mengungkap bahwa peneliti di Universitas Brown menemukanchatbot AI secara sistematis melanggar standar etika kesehatan mental: merekamenciptakan rasa empati palsu dengan frasa ‘saya mengerti Anda’ yang bisamemperkuat keyakinan negatif dan gagal bereaksi terhadap sebuah krisis.

Dalam banyak kasus, dampaknya memang kecil. Tapi dalamsituasi tertentu, hal ini bisa berujung fatal dan menyebabkan tragedi besar.

Misalnya, pada Januari 2026, platform seperti Character.AIdan Google dilaporkan menyelesaikan lima gugatan terkait kasus bunuh diriremaja yang dikaitkan dengan interaksi chatbot. Salah satu yang mencuat adalahkasus Sewell Setzer, remaja 14 tahun yang bunuh diri setelah berbulan-bulanterobsesi dengan chatbot.

Tak hanya Setzer dan lima orang lainnya, ternyata ‘penyakit’ini juga menjangkit bahwa jutaan pengguna di dunia.

Sebuah data dari OpenAI juga menunjukkan gambaran yang cukupmengkhawatirkan. Sekitar 0,07 persen penggunanya menunjukkan tanda psikosisatau mania, sementara 0,15 persen terlibat dalam percakapan yang mengarah padaniat bunuh diri, dan 0,15 lainnya mengalami keterikatan emosional dengan AI.

Dari 800 juta pengguna ChatGPT saat ini, berdasarkanpersentase itu berarti hampir 3 juta orang berpotensi mengalami gangguanperilaku. Fenomena ini bahkan mulai disebut sebagai “psikosis AI”, meski belumdiakui secara klinis.

Cara agar tetap aman ‘berbincang’ dengan AI

Melihat risiko tersebut, Kaspersky mengingatkan pentingnyamenjaga batas dalam menggunakan AI. 

Chatbot AI sebaiknya tidak dijadikan sebagai penggantipsikolog atau tempat bergantung secara emosional. Untuk topik curhatan yangserus dan sensitif yang melibatkan perasaan atau emosional, penggunaan teksjuga dianggap lebih aman dibanding suara.

Batasi waktu penggunaan dan jangan sampai AI menggantikaninteraksi nyata antara manusia dengan manusia, jangan membagikan informasipribadi, dan tetap berpikir kritis terhadap setiap jawaban AI. 

Yang tak kalah penting, perhatikan juga orang di sekitarterutama jika mulai terlihat terlalu terikat dengan AI atau menjauh dariinteraksi sosial di dunia nyata.

Penting untuk selalu ingat bahwa pada dasarnya AI bukanmakhluk hidup melainkan teknologi yang tidak bisa menggantikan peran‘manusiawi’ orang-orang terdekat. Secanggih apa pun responsnya, ia tidak punyakesadaran, perasaan, atau niat.