Ofcom meningkatkan penyelidikan Grok: Regulator Inggris telah meluncurkan penyelidikan formal terhadap X
Mereka beralih dari kontak awal ke penyelidikan penuh atas citra seksual yang dihasilkan AI.
Hanya beberapa hari setelah regulator komunikasi Inggris Ofcom pertama kali menyuarakan keprihatinan atas Grok, pengawas sekarang telah meningkatkan tanggapannya, meluncurkan penyelidikan formal terhadap X Elon Musk atas kemampuan pembuatan gambar chatbot AI.
Seperti yang mereka umumkan hari ini di X: "Kami telah membuka penyelidikan formal terhadap X di bawah Undang-Undang Keamanan Online, untuk menentukan apakah telah memenuhi tugasnya untuk melindungi orang-orang di Inggris dari konten ilegal."
Awal bulan ini, Ofcom mengkonfirmasi telah menghubungi X dan xAI untuk menilai apakah Grok digunakan untuk menghasilkan "gambar orang yang tidak berpakaian dan gambar seksual anak-anak." Hari ini, penjangkauan awal itu sekarang telah berkembang menjadi penyelidikan penuh untuk menentukan apakah platform tersebut telah melanggar kewajiban hukumnya di bawah Undang-Undang Keamanan Online Inggris.
Dalam pernyataan yang dirilis pada hari Senin, Ofcom mengatakan sedang menyelidiki apakah X gagal menilai dengan benar risiko bahwa pengguna Inggris (terutama anak-anak) dapat terpapar konten seksual ilegal, termasuk citra intim non-konsensual dan materi pelecehan seksual anak yang dihasilkan AI.
Masalah ini sejak itu menarik intervensi politik langsung. Perdana Menteri Keir Starmer menggambarkan gambar yang dihasilkan Grok sebagai "menjijikkan" dan "melanggar hukum," dengan mengatakan X harus "memegang" bagaimana alat AI-nya digunakan. Para menteri telah mengkonfirmasi bahwa sanksi (termasuk pembatasan tingkat platform) ada di atas meja jika ditemukan pelanggaran.
X telah menyatakan bahwa mereka menghapus konten ilegal, menangguhkan akun yang menyinggung, dan bekerja sama dengan pihak berwenang, menyatakan bahwa siapa pun yang menggunakan Grok untuk menghasilkan citra yang melanggar hukum akan menghadapi konsekuensi. Ofcom telah memperingatkan bahwa dalam kasus yang paling serius, tindakan penegakan hukum dapat mencakup pemotongan layanan iklan dan pembayaran, atau bahkan memblokir akses ke platform di Inggris.
Baca cerita ini dalam urutan kronologis:
- Grok menghapus tab media setelah terlalu banyak pengguna memintanya untuk menghapus pakaian wanita.
- Regulator komunikasi Inggris Ofcom membidik Grok atas "gambar seksual anak-anak".
- Inggris dapat melarang X atas kegagalan citra generatif Grok.