Ngeri ! Lebih dari Satu Juta Orang Potensi Niat Bunuh Diri Setiap Minggu Ngobrol dengan chatGPT

lingkupminds.com – Lebih dari satu juta pengguna  chaGPT setiap minggu mengirimkan pesan “indikator eksplisit potensi perencanaan atau niat bunuh diri”, menurut sebuah postingan blog yang diterbitkan oleh OpenAI pada hari Senin seperti dilansir theguardian 27/10/25.

Temuan ini, merupakan bagian dari pembaharuan aplikasi chatbot tersebut menangani percakapan sensitif, hal ini merupakan salah satu pernyataan paling vulgar dari raksasa kecerdasan buatan tersebut dalam skala bagaimana AI dapat memperburuk masalah kesehatan mental orang.

Selain estimasi ide bunuh diri dan interaksi terkait, OpenAI juga menyatakan bahwa sekitar 0,07% pengguna aktif dalam seminggu – sekitar 560.000 dari 800 juta pengguna yang diklaim – menunjukkan “kemungkinan tanda-tanda darurat kesehatan mental terkait psikosis atau mania”. Postingannya memperingatkan bahwa percakapan ini sulit dideteksi atau diukur, akan tetapi dan ini baru merupakan analisis awal.

Seiring OpenAI merilis data tentang masalah kesehatan mental terkait produk unggulannya, perusahaan tersebut menghadapi pengawasan yang semakin ketat dari keluarga seorang remaja laki-laki yang bunuh diri setelah berinteraksi secara ekstensif dengan ChatGPT.

Bulan lalu, Komisi Perdagangan Federal juga melkukan invetigasi mendalam terhadap perusahaan-perusahaan pembuat chatbot AI, termasuk OpenAI, untuk menemukan bagaimana mereka mengukur dampak negatif pada anak-anak dan remaja.

OpenAI mengklaim dalam postingannya bahwa pembaharuan GPT-5 baru-baru ini mengurangi jumlah perilaku yang tidak diinginkan dari produknya dan meningkatkan keamanan pengguna dalam evaluasi model yang melibatkan lebih dari 1.000 percakapan melukai diri sendiri dan bunuh diri. Perusahaan tidak segera membalas permintaan komentar.

“Evaluasi otomatis baru kami menilai model GPT-5 baru pada 91% sesuai dengan perilaku yang kami inginkan, dibandingkan dengan 77% untuk model GPT-5 sebelumnya,” bunyi postingan perusahaan.

OpenAI menyatakan bahwa GPT-5 memperluas akses ke hotline krisis dan menambahkan pengingat bagi pengguna untuk beristirahat selama sesi yang panjang.

Untuk membuat perbaikan pada model, perusahaan mengatakan telah meminta 170 dokter dari Jaringan Dokter Global ahli perawatan kesehatan untuk membantu penelitiannya selama beberapa bulan terakhir, yang termasuk menilai keamanan tanggapan modelnya dan membantu menulis jawaban chatbot untuk pertanyaan terkait kesehatan mental.

“Sebagai bagian dari pekerjaan ini, psikiater dan psikolog meninjau lebih dari 1.800 model tanggapan yang melibatkan situasi kesehatan mental yang serius dan membandingkan tanggapan dari model obrolan GPT-5 baru dengan model sebelumnya,” kata OpenAI.

Definisi perusahaan tentang “diinginkan” melibatkan penentuan apakah sekelompok ahlinya mencapai kesimpulan yang sama tentang apa yang akan menjadi respons yang tepat dalam situasi tertentu. Peneliti AI dan pendukung kesehatan masyarakat telah lama waspada terhadap kecenderingan chatbot uituk menegakan keputusanatau delusi pengguna terlepas dari apakah itu mungkin berbahaya, sebuah masalah yang dikenal sebagai sanjungan.

Para ahli kesehatan mental juga prihatin tentang orang-orang yang menggunakan chatbot AI untuk dukungan psikologis dan memperingatkan bagaimana hal itu dapat membahayakan pengguna yang rentan. Bahasa dalam postingan OpenAI menjauhkan perusahaan dari potensi hubungan kausal antara produknya dan krisis kesehatan mental yang dialami penggunanya.

“Gejala kesehatan mental dan tekanan emosional hadir secara universal di masyarakat manusia, dan basis pengguna yang meningkat berarti bahwa beberapa bagian dari percakapan ChatGPT mencakup situasi-situasi ini,” kata postingan OpenAI.

CEO OpenAI Sam Altman awal bulan ini mengklaim dalam sebuah postingan di X bahwa perusahaan telah membuat kemajuan dalam mengobati masalah kesehatan mental, mengumumkan bahwa OpenAI akan melonggarkan pembatasan dan segera mulai mengizinkan orang dewasa untuk membuat konten erotis.

“Kami membuat ChatGPT cukup ketat untuk memastikan kami berhati-hati dengan masalah kesehatan mental. Kami menyadari ini membuatnya kurang berguna/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental, tetapi mengingat keseriusan masalah ini, kami ingin memperbaikinya,” Altman memposting.

“Sekarang setelah kami dapat mengurangi masalah kesehatan mental yang serius dan memiliki alat baru, kami akan dapat melonggarkan pembatasan dengan aman dalam banyak kasus.” Imbuhnya.

Credit | Redaksi LINGKUP.

Sumber | The Guardian.