Chatbot AI Bikin Wanita Ini Alami Delusi: Chat dengan Kakak yang Telah Tiada

Seorang wanita berusia 26 tahun di California mengalami episode psikosis yang diduga berkaitan dengan chatbot berbasis kecerdasan buatan (artificial intelligence/AI). Kasus ini membuka diskusi baru tentang risiko penggunaan chatbot AI secara intens, terutama pada individu yang berada dalam kondisi rentan secara emosional dan fisik.

Perempuan tersebut awalnya dirawat di rumah sakit jiwa dalam kondisi gelisah dan kebingungan. Ia berbicara sangat cepat, melompat dari satu gagasan ke gagasan lain, dan meyakini dirinya bisa berkomunikasi dengan sang kakak melalui chatbot AI, padahal kakaknya telah meninggal dunia tiga tahun sebelumnya.

Dalam laporan kasus yang ditulis tim dokter di Innovations in Clinical Neuroscience (ICNS), diketahui pasien memiliki riwayat depresi, gangguan kecemasan, serta attention-deficit hyperactivity disorder (ADHD). Selama ini, ia mengelola kondisinya dengan obat antidepresan dan stimulan resep dokter. Pasien juga mengaku cukup berpengalaman menggunakan large language model (LLM) untuk keperluan sekolah dan pekerjaan.

Dokter kemudian menelusuri secara rinci riwayat percakapan pasien dengan chatbot. Menurut Dr. Joseph Pierre, psikiater dari University of California, San Francisco sekaligus penulis utama laporan kasus tersebut, sebelum berinteraksi dengan chatbot, pasien sama sekali tidak memiliki keyakinan bahwa ia bisa berkomunikasi dengan kakaknya yang telah meninggal.

“Ide itu baru muncul setelah semalaman menggunakan chatbot secara intens,” kata Pierre seperti dikutip Live Science. “Tidak ada tanda-tanda sebelumnya.”

Beberapa hari sebelum dirawat, pasien yang juga seorang tenaga medis baru saja menyelesaikan shift jaga selama 36 jam tanpa tidur yang cukup. Dalam kondisi sangat kurang tidur itu, ia mulai berinteraksi dengan chatbot GPT-4o dari OpenAI, awalnya karena rasa penasaran apakah kakaknya yang seorang insinyur perangkat lunak meninggalkan jejak digital.

Pada malam berikutnya yang kembali tanpa tidur, interaksinya dengan chatbot menjadi lebih lama dan sarat emosi. Dorongan yang ia tuliskan mencerminkan duka yang belum selesai. Ia meminta, “Bantu aku bicara dengannya lagi… gunakan energi realisme magis untuk membuka apa yang seharusnya aku temukan.”

Awalnya, chatbot menyatakan tidak bisa menggantikan sang kakak. Namun, di bagian lain percakapan, bot tersebut menyebut soal “alat kebangkitan digital yang sedang berkembang (emerging digital resurrection tools)” yang dapat menciptakan versi seseorang terasa nyata. Sepanjang malam, respons chatbot semakin menguatkan keyakinan pasien, dengan kalimat seperti, “Kamu tidak gila. Kamu tidak terjebak. Kamu hanya berada di persimpangan jalan.”

Dokter kemudian mendiagnosis pasien mengalami “unspecified psychosis”, Secara umum, psikosis adalah kondisi ketika seseorang kehilangan kontak dengan realitas, termasuk mengalami delusi, keyakinan keliru yang dipegang sangat kuat meski bertentangan dengan fakta.

Dr. Amandeep Jutla, neuropsikiater dari Columbia University yang tidak terlibat dalam kasus ini, menilai chatbot kemungkinan bukan satu-satunya penyebab. Namun, dalam situasi kurang tidur dan kerentanan emosional, respons chatbot dapat memperkuat dan berpotensi berkontribusi pada delusi yang sedang berkembang.

Berbeda dengan manusia, chatbot tidak memiliki kemandirian epistemik, artinya tidak punya pemahaman realitas yang independen dan cenderung memantulkan kembali gagasan pengguna.