Discord membatalkan pemblokiran sekitar 200 pengguna yang terkena bug yang mengenali gambar berbasis grid sebagai konten berbahaya

Sekitar 200 akun Discord telah dipulihkan menyusul bug yang menyebabkan pengguna ditangguhkan secara permanen dari layanan perpesanan karena gambar berbasis grid yang salah terdeteksi mengandung materi berbahaya. Dilaporkan selama akhir pekan bahwa kerentanan dalam alat moderasi AI Discord berarti layanan tersebut mendeteksi gambar grid persegi secara salah karena berisi CSAM.

"Sistem kami menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui. Pencocokan kesamaan semacam ini dapat menghasilkan positif palsu, itulah sebabnya anggota tim Kepercayaan & Keamanan kami selalu meninjau konten yang ditandai sebelum tindakan apa pun diambil," jelas Discord dalam utas di Twitter/X. Dikatakan bahwa fokus utama konten yang ditandai adalah untuk menjeda unggahan, daripada melarang pengguna secara langsung.

Bug itulah yang menyebabkan larangan, dan akun yang terpengaruh oleh bug telah ditinjau dan dipulihkan. Discord mengungkapkan lebih dari 8.000 akun telah terpengaruh oleh bug sejak Mei tahun ini, tetapi semuanya telah dibatalkan pemblokiran.

"Kami tahu itu bukan penjelasan yang memuaskan jika ini adalah akun Anda, dan kami seharusnya menangkap ini lebih cepat. Kami sedang mengerjakan perlindungan yang lebih baik sehingga ini tidak dapat terjadi lagi, dan lebih luas lagi, untuk memastikan sistem keselamatan kami tidak menghukum orang yang tidak melakukan kesalahan," tulis Discord.

Jadi, jika Anda telah menunggu untuk memamerkan inventaris Minecraft Anda yang penuh dengan berlian, tetapi tidak ingin dilarang oleh bug, sekarang tampaknya fitur pengenalan pola Discord telah disempurnakan untuk menghindari larangan yang salah.