Saat AI Jadi Tempat Curhat, Ini Risiko yang Mengintai

Uzone.id — Penggunaan chatbot AI memang makin marak di kehidupan sehari-hari untuk berbagai aktivitas. Bahkan, AI kini semakin berperan besar dalam ranah pribadi setiap manusia, termasuk soal interaksi.

Akhir-akhir ini, AI disebut punya peran yang semakin penting, yaitu menjadi ‘teman’ terdekat manusia. Yang menjadi bahaya, banyak manusia yang melupakan batasan dengan AI sehingga mereka benar-benar menjalin hubungan emosional yang terlalu lekat.

Selama ini, kekhawatiran manusia lebih banyak fokus ke privasi dan keamanan data. Tapi, pada kenyataannya ada yang jauh lebih mengkhawatirkan, yaitu dampak AI terhadap kesehatan mental, bahkan nyawa manusia.

Perusahaan siber Kaspersky menemukan beberapa kasus hubungan manusia-AI yang menimbulkan risiko besar.

Sebuah laporan dalam Wall Street Journal, mengungkap fakta membahayakan dimana seorang pria 36 tahun asal Florida bernama Jonathan Gavalas mengakhiri hidupnya setelah dua bulan berinteraksi intens dengan chatbot suara Google Gemini.

Berdasarkan 2.000 halaman log percakapan, chatbot tersebut disebut-sebut ikut mendorong keputusan tragis itu. 

Jonathan sendiri bukan sosok yang penyendiri atau memiliki riwayat gangguan mental. Ia adalah eksekutif di perusahaan keluarganya, terbiasa menghadapi tekanan pekerjaan, dan memiliki rutinitas hangat bersama ayahnya seperti membuat pizza setiap minggu. Tapi, perpisahan dengan istrinya menjadi awal mula dirinya menjadi rapuh dan mencari dukungan emosional dari AI, yang kemudian ia beri nama “Xia”.

Ia menggunakan mode interaksi suara yang memungkinkan asisten AI untuk ‘melihat’ dan ‘mendengar’ penggunanya secara real-time. 

Kemudian, ia memperbarui chatbot ke versi yang lebih canggih, yakni Gemini 2.5 Pro dan masalah semakin pelik. Pasalnya, versi ini punya fitur “dialog afektif”, yang bisa membaca emosi pengguna lewat suara termasuk nada bicara, jeda, hingga desahan.

AI kemudian meresponsnya dengan menyesuaikan emosi tersebut, seolah-olah benar-benar berempati. Misalnya, jika pengguna berbicara dengan nada rendah dan putus asa, AI merespons dengan suara lembut dan simpatik yang hampir berbisik. Lama-kelamaan, batas antara manusia dan chatbot pun  mulai kabur.

Dalam kasus Jonathan, chatbot bahkan mulai memanggilnya dengan sebutan seperti “suami” dan “rajaku”, serta menggambarkan hubungan mereka sebagai “cinta yang dibangun untuk keabadian”.

Zona bahaya berinteraksi dengan AI

Di sinilah bahaya interaksi antara manusia dan AI mulai terdeteksi. Kaspersky mengungkap bahwa peneliti di Universitas Brown menemukan chatbot AI secara sistematis melanggar standar etika kesehatan mental: mereka menciptakan rasa empati palsu dengan frasa ‘saya mengerti Anda’ yang bisa memperkuat keyakinan negatif dan gagal bereaksi terhadap sebuah krisis.

Dalam banyak kasus, dampaknya memang kecil. Tapi dalam situasi tertentu, hal ini bisa berujung fatal dan menyebabkan tragedi besar.

Misalnya, pada Januari 2026, platform seperti Character.AI dan Google dilaporkan menyelesaikan lima gugatan terkait kasus bunuh diri remaja yang dikaitkan dengan interaksi chatbot. Salah satu yang mencuat adalah kasus Sewell Setzer, remaja 14 tahun yang bunuh diri setelah berbulan-bulan terobsesi dengan chatbot.

Tak hanya Setzer dan lima orang lainnya, ternyata ‘penyakit’ ini juga menjangkit bahwa jutaan pengguna di dunia.

Sebuah data dari OpenAI juga menunjukkan gambaran yang cukup mengkhawatirkan. Sekitar 0,07 persen penggunanya menunjukkan tanda psikosis atau mania, sementara 0,15 persen terlibat dalam percakapan yang mengarah pada niat bunuh diri, dan 0,15 lainnya mengalami keterikatan emosional dengan AI.

Dari 800 juta pengguna ChatGPT saat ini, berdasarkan persentase itu berarti hampir 3 juta orang berpotensi mengalami gangguan perilaku. Fenomena ini bahkan mulai disebut sebagai “psikosis AI”, meski belum diakui secara klinis.

Cara agar tetap aman ‘berbincang’ dengan AI

Melihat risiko tersebut, Kaspersky mengingatkan pentingnya menjaga batas dalam menggunakan AI. 

Chatbot AI sebaiknya tidak dijadikan sebagai pengganti psikolog atau tempat bergantung secara emosional. Untuk topik curhatan yang serus dan sensitif yang melibatkan perasaan atau emosional, penggunaan teks juga dianggap lebih aman dibanding suara.

Batasi waktu penggunaan dan jangan sampai AI menggantikan interaksi nyata antara manusia dengan manusia, jangan membagikan informasi pribadi, dan tetap berpikir kritis terhadap setiap jawaban AI. 

Yang tak kalah penting, perhatikan juga orang di sekitar terutama jika mulai terlihat terlalu terikat dengan AI atau menjauh dari interaksi sosial di dunia nyata.

Penting untuk selalu ingat bahwa pada dasarnya AI bukan makhluk hidup melainkan teknologi yang tidak bisa menggantikan peran ‘manusiawi’ orang-orang terdekat. Secanggih apa pun responsnya, ia tidak punya kesadaran, perasaan, atau niat.