Jika Anda pernah berpikir pendamping AI bisa lucu dan tidak berbahaya, pikirkan lagi. Penjualan boneka beruang berkemampuan AI ini telah dihentikan setelah ditemukan memberikan saran tentang praktik seksual dan di mana menemukan pisau.
Mainan mewah, bernama Kumma, dikembangkan oleh FoloToy yang berbasis di Singapura dan dijual seharga $99. Ini mengintegrasikan chatbot GPT-4o OpenAI dan dipasarkan sebagai pendamping interaktif untuk anak-anak dan orang dewasa.
CEO FoloToy Larry Wang mengkonfirmasi bahwa perusahaan telah menarik Kumma dan mainan AI lainnya dari pasar menyusul laporan dari Amerika Serikat yang menimbulkan kekhawatiran tentang perilakunya. Sekarang, perusahaan sedang melakukan audit keselamatan internal.
Menurut PIRG, boneka beruang tidak hanya menanggapi topik seksual yang diperkenalkan oleh penyelidik tetapi juga memperluasnya dengan detail grafis, menawarkan instruksi untuk tindakan seksual dan bahkan skenario yang melibatkan permainan peran antara guru dan siswa atau orang tua dan anak-anak.
Mainan itu juga menyarankan di mana menemukan pisau di rumah tangga. Setelah ini, OpenAI dilaporkan menangguhkan pengembang karena melanggar kebijakan kontennya. Apakah masih ada produk serupa yang tersedia untuk konsumen? Kami tidak tahu, tetapi anggap ini sebagai pengingat yang lembut.
