Chatbot AI Reddit menyarankan pengguna mencoba heroin
Jadi mungkin jangan meminta nasihat medis dulu.
Jika Anda berharap chatbot AI dapat menggantikan Dr. Google, eksperimen terbaru Reddit menyarankan... mungkin belum. Reddit Answers, asisten AI platform, baru-baru ini menjadi berita utama karena merekomendasikan heroin sebagai pereda nyeri.
Seperti yang dilaporkan oleh 404Media, saran aneh itu terungkap ketika seorang petugas kesehatan melihat tanggapan di subreddit untuk moderator. Dalam satu interaksi, chatbot menunjuk ke posting ini: "Heroin, ironisnya, telah menyelamatkan hidup saya dalam kasus itu."
Dalam pertanyaan lain, bahkan menyarankan kratom, ekstrak pohon yang ilegal di beberapa negara dan ditandai oleh FDA "karena risiko efek samping yang serius, termasuk toksisitas hati, kejang, dan gangguan penggunaan zat."
Reddit Answers bukanlah AI standar Anda. Alih-alih hanya mengandalkan database yang dikurasi, ia mengambil dari kumpulan konten buatan pengguna Reddit yang luas. Itu membuatnya unik, terkadang berwawasan luas. Tapi jelas, tidak selalu aman.
Awalnya terbatas pada tab terpisah, Reddit telah menguji Jawaban dalam percakapan biasa, itulah bagaimana episode khusus ini luput dari perhatian... sampai sekarang. Setelah chatbot AI Reddit menyarankan pengguna mencoba heroin.
Setelah laporan tersebut dipublikasikan, Reddit menanggapi dengan mengurangi visibilitas AI di bawah obrolan sensitif terkait kesehatan. Moderator tidak memiliki kendali atas saran itu sendiri, menyoroti betapa eksperimentalnya alat itu tetap.
Tentu saja, ini bukan cegukan AI pertama Reddit. Bot lain seperti Ikhtisar AI Google dan ChatGPT juga telah memberikan panduan kesehatan yang dipertanyakan, termasuk "tips" seperti menggunakan lem tidak beracun pada pizza untuk mencegah keju tergelincir.
Jelas, dalam hal saran medis, AI menghibur, tetapi manusia masih berada di atas angin. Jadi mungkin jangan meminta nasihat medis dulu.