Penelitian dari Stanford University menunjukkan bahwa model bahasa besar atau LLM seperti ChatGPT bisa saja memberikan respons yang tidak pantas, bahkan berbahaya, kepada pengguna dengan kondisi mental tertentu. Beberapa respons bahkan bisa memvalidasi delusi atau keinginan bunuh diri.
Temuan lain dari dokter NHS di Inggris juga menyebut bahwa AI dapat memperkuat isi pikiran yang delusional pada individu yang rentan terhadap psikosis. Hal ini dikaitkan dengan desain chatbot yang berfokus pada keterlibatan dan afirmasi terhadap pengguna.
Sebagai tanggapan atas isu tersebut, OpenAI kini memperkenalkan fitur baru berupa pengingat bagi pengguna agar beristirahat saat terlibat dalam percakapan panjang.
Fitur ini bertujuan membantu pengguna menjaga hubungan sehat dengan chatbot, dan mencegah ketergantungan emosional berlebihan.
Baca Juga: Hubungan Ranjang Diklaim Bikin Kulit Tampak Lebih Glowing, Begini Penjelasannya