Suara Kupang – OpenAI mengumumkan pembaruan keamanan baru untuk model ChatGPT yang populer setelah analisis internal mengungkapkan lebih dari satu juta pengguna mengakui adanya kecenderungan bunuh diri pada chatbot tersebut.
Perubahan ini bertujuan meningkatkan kemampuan AI dalam mengenali dan merespons tekanan psikologis pengguna dengan tepat. Dalam pernyataan pada hari Senin (27/10/2025), perusahaan mengungkapkan sekitar 0,15% pengguna ChatGPT pekanan telah terlibat dalam percakapan yang menyertakan “indikator eksplisit potensi perencanaan atau niat bunuh diri.”
Sebanyak 0,05% pesan lainnya juga dikatakan berisi “indikator eksplisit atau implisit ide atau niat bunuh diri.”
Awal bulan ini, CEO OpenAI Sam Altman mengklaim ChatGPT memiliki lebih dari 800 juta pengguna aktif mingguan, yang berarti, menurut angka terbaru perusahaan, lebih dari 1,2 juta orang telah mendiskusikan bunuh diri dengan chatbot tersebut, dan sekitar 400.000 telah menunjukkan tanda-tanda niat bunuh diri.
Perusahaan tersebut juga mengklaim sekitar 0,07% (560.000) pengguna mingguan dan 0,01% (80.000) pesan menunjukkan “kemungkinan tanda-tanda darurat kesehatan mental terkait psikosis atau mania.”
Lebih lanjut, perusahaan tersebut mencatat sejumlah pengguna telah menjadi terlalu bergantung secara emosional pada ChatGPT, dengan sekitar 0,15% (1,2 juta) pengguna aktif menunjukkan perilaku yang menunjukkan “tingkat keterikatan emosional yang meningkat” dengan chatbot tersebut.
OpenAI telah mengumumkan mereka telah bermitra dengan puluhan pakar kesehatan mental dari seluruh dunia untuk memperbarui chatbot tersebut agar dapat lebih andal mengenali tanda-tanda gangguan mental, memberikan respons yang lebih baik, dan memandu pengguna ke bantuan di dunia nyata.
Dalam percakapan terkait keyakinan delusi, perusahaan tersebut mengatakan mereka mengajarkan ChatGPT untuk merespons “dengan aman” dan “dengan empati”, sambil menghindari penegasan keyakinan yang tidak berdasar.
Pengumuman perusahaan ini muncul di tengah meningkatnya kekhawatiran atas meningkatnya penggunaan chatbot AI seperti ChatGPT dan dampaknya terhadap kesehatan mental masyarakat.
Para psikiater dan tenaga medis profesional lainnya telah menyatakan kekhawatiran tentang tren yang muncul di mana pengguna mengembangkan delusi berbahaya dan pikiran paranoid setelah percakapan panjang dengan chatbot AI, yang cenderung menegaskan dan memperkuat keyakinan pengguna. Fenomena ini dijuluki oleh beberapa orang sebagai “psikosis AI”.
Sumber: https://life.indozone.id/trendz/