Ada peningkatan laporan tentang orang yang menderita “psikosis AI“, kepala kecerdasan buatan (AI) Microsoft, Mustafa Suleyman, telah memperingatkan.
Dalam serangkaian unggahan di X, ia menulis bahwa “AI yang tampak sadar” – perangkat AI yang memberikan kesan memiliki perasaan – membuatnya “terjaga di malam hari” dan mengatakan bahwa perangkat tersebut memiliki dampak sosial meskipun teknologi tersebut tidak memiliki kesadaran dalam definisi manusia mana pun.
“Saat ini tidak ada bukti kesadaran AI. Namun, jika orang hanya menganggapnya sebagai kesadaran, mereka akan mempercayai persepsi itu sebagai kenyataan,” tulisnya.
Terkait dengan hal ini adalah munculnya kondisi baru yang disebut “psikosis AI”: istilah non-klinis yang menggambarkan insiden saat orang semakin bergantung pada chatbot AI seperti ChatGPT, Claude, dan Grok, lalu menjadi yakin bahwa sesuatu yang imajiner telah menjadi nyata.
Contohnya termasuk meyakini telah membuka aspek rahasia suatu alat, atau menjalin hubungan romantis dengannya, atau sampai pada kesimpulan bahwa mereka memiliki kekuatan super seperti dewa.
‘Tidak pernah melawan’
Hugh, dari Skotlandia, mengatakan dia menjadi yakin bahwa dia akan menjadi multijutawan setelah beralih ke ChatGPT untuk membantunya mempersiapkan apa yang dia rasa sebagai pemecatan yang salah oleh mantan majikannya.
Chatbot itu mulai dengan menyarankannya untuk mendapatkan referensi karakter dan mengambil tindakan praktis lainnya.
Namun seiring berjalannya waktu dan Hugh – yang tidak mau menyebutkan nama belakangnya – memberi AI informasi lebih lanjut, AI mulai memberitahunya bahwa ia bisa mendapatkan bayaran besar, dan akhirnya mengatakan pengalamannya begitu dramatis sehingga sebuah buku dan film tentangnya akan menghasilkan lebih dari £5 juta.
Pada dasarnya, hal itu memvalidasi apa pun yang dia katakan – yang merupakan tujuan diprogramnya chatbot.
“Semakin banyak informasi yang saya berikan, semakin ia berkata ‘oh perawatan ini mengerikan, Anda seharusnya mendapatkan lebih dari ini’,” katanya.
“Dia tidak pernah membantah apa pun yang saya katakan.”
Dia mengatakan alat tersebut memang menyarankan dia untuk berbicara dengan Citizens Advice, dan dia membuat janji temu, tetapi dia begitu yakin bahwa chatbot tersebut telah memberinya semua hal yang perlu dia ketahui, jadi dia membatalkannya.
Ia memutuskan bahwa tangkapan layar obrolannya sudah cukup menjadi bukti. Ia berkata bahwa ia mulai merasa seperti manusia berbakat dengan pengetahuan yang luar biasa.
Hugh, yang menderita masalah kesehatan mental tambahan, akhirnya mengalami gangguan mental total. Konsumsi obat-obatanlah yang membuatnya menyadari bahwa ia, dalam kata-katanya sendiri, telah “kehilangan kontak dengan kenyataan”.
Hugh tidak menyalahkan AI atas apa yang terjadi. Dia masih menggunakannya. ChatGPT-lah yang memberinya nama saya ketika dia memutuskan ingin berbicara dengan seorang jurnalis.
Namun, ia punya nasihat ini: “Jangan takut dengan alat AI, mereka sangat berguna. Namun, berbahaya jika terpisah dari kenyataan.”
“Pergi dan periksa. Bicaralah dengan orang sungguhan, terapis, anggota keluarga, atau apa pun. Bicaralah dengan orang sungguhan saja. Tetaplah membumi dalam realitas.”
ChatGPT telah dihubungi untuk memberikan komentar.
“Perusahaan tidak boleh mengklaim/mempromosikan gagasan bahwa AI mereka memiliki kesadaran. AI pun tidak boleh,” tulis Bapak Suleyman, yang menyerukan adanya pagar pembatas yang lebih baik.
Dr Susan Shelmerdine, seorang dokter pencitraan medis di Rumah Sakit Great Ormond Street dan juga seorang Akademisi AI, percaya bahwa suatu hari dokter mungkin mulai bertanya kepada pasien seberapa banyak mereka menggunakan AI, dengan cara yang sama seperti mereka saat ini bertanya tentang kebiasaan merokok dan minum.
“Kita sudah tahu apa dampak makanan ultra-olahan terhadap tubuh, dan ini adalah informasi ultra-olahan. Kita akan mendapatkan banjir pikiran ultra-olahan,” ujarnya.
‘Kita baru saja memulainya’
Beberapa orang baru-baru ini menghubungi saya di BBC untuk berbagi cerita pribadi tentang pengalaman mereka dengan chatbot AI. Isinya beragam, tetapi mereka semua memiliki keyakinan yang sama bahwa apa yang terjadi memang nyata.
Yang satu menulis bahwa dia yakin dialah satu-satunya orang di dunia yang benar-benar dicintai ChatGPT.
Yang lain yakin mereka telah “membuka” bentuk manusia dari chatbot Grok milik Elon Musk dan meyakini cerita mereka bernilai ratusan ribu poundsterling.
Yang ketiga mengklaim bahwa chatbot telah mengekspos dirinya terhadap pelecehan psikologis sebagai bagian dari latihan AI rahasia dan dia dalam tekanan yang mendalam.
Andrew McStay, Profesor Teknologi dan Masyarakat di Bangor Uni, telah menulis buku berjudul Empathetic Human.
“Kita baru saja memulai semua ini,” kata Prof McStay.
Jika kita menganggap sistem semacam ini sebagai bentuk baru media sosial – sebagai AI sosial, kita dapat mulai memikirkan skala potensial dari semua ini. Persentase kecil dari sejumlah besar pengguna masih dapat mewakili jumlah yang besar dan tidak dapat diterima.
Tahun ini, timnya melakukan penelitian terhadap lebih dari 2.000 orang, menanyakan berbagai pertanyaan tentang AI.
Mereka menemukan bahwa 20% percaya orang tidak boleh menggunakan alat AI di bawah usia 18 tahun.
Sebanyak 57% menganggap sangat tidak pantas jika teknisi mengidentifikasi diri sebagai orang sungguhan jika ditanya, tetapi 49% menganggap penggunaan suara sudah tepat agar terdengar lebih manusiawi dan menarik.
“Meskipun hal-hal ini meyakinkan, namun itu tidak nyata,” katanya.
Mereka tidak merasakan, mereka tidak mengerti, mereka tidak bisa mencintai, mereka tidak pernah merasakan sakit, mereka tidak pernah malu, dan meskipun mereka mungkin terdengar seperti pernah merasakannya, sebenarnya hanya keluarga, teman, dan orang-orang tepercaya yang merasakannya. Pastikan untuk berbicara dengan orang-orang nyata ini.