Grok, AI Elon Musk, tertangkap basah berbohong tentang foto anak-anak kelaparan di Gaza

Grok, Kecerdasan Buatan yang digunakan pada X Elon Musk, sebelumnya Twitter, telah ketahuan "berbohong" beberapa kali tentang foto-foto anak-anak yang kekurangan gizi di Gaza. Itu menurut laporan dari pemeriksa fakta RTVE, menunjuk setidaknya tiga kali di mana pengguna bertanya kepada Grok tentang kebenaran foto-foto anak-anak kelaparan di Gaza, dengan efek kekurangan gizi dan penyakit yang sangat terlihat, dan AI X mengatakan, salah, bahwa foto-foto itu bukan dari Gaza... ketika mereka benar-benar ada.

"@grok, dari tahun berapa gambar-gambar ini?", tanya Kristy4TRUMP menanggapi postingan dari Senator AS Bernie Sanders, 28 Juli lalu. "Gambar-gambar ini berasal dari tahun 2016, menunjukkan anak-anak kekurangan gizi di sebuah rumah sakit di Houdieda, Yaman, di tengah perang saudara di sana. Mereka tidak menggambarkan peristiwa terkini di Gaza," kata Grok.

Kecuali bahwa mereka tidak: ini adalah foto-foto yang diambil di Gaza pada 23 Juli, diverifikasi oleh Associated Press, seperti yang dibagikan oleh Shayan Sardarizadeh, reporter BBC yang berspesialisasi dalam AI dan disinformasi.

Pada kesempatan lain, Grok mengatakan bahwa gambar seorang ibu menggendong bayi dengan kantong plastik sebagai popok dan tidak ada apa-apa selain tulang di bawah kulitnya berasal dari kelaparan Yaman 2017, padahal pada kenyataannya itu adalah foto yang diambil oleh Ahmed al-Arini pada 21 Juli, dengan BBC bahkan mewawancarai ibunya, Hedaya al-Muta.

Berulang kali, pemeriksa fakta telah menemukan bahwa Grok berbohong tentang kebenaran gambar, bahkan ketika dengan tegas mengklaim itu benar. Ini menunjukkan bahaya menggunakan AI sebagai alat verifikasi, yang dapat menyebabkan lebih banyak informasi yang salah. Beberapa ahli percaya bahwa dalam kasus Grok itu disebabkan karena AI menggunakan petunjuk yang dilatih di X, jejaring sosial di mana berita palsu dan informasi yang salah berjalan bebas.

Para ahli yang ditanya oleh RTVE menyarankan bahwa, jika kita bertujuan untuk menggunakan AI untuk memerangi informasi yang salah, kita harus menggunakan lebih dari satu model AI dan tidak terbatas pada Grok, yang sengaja dibuat untuk memiliki "jawaban tanpa filter" dan dilatih "untuk tidak benar secara politis", yang, dalam banyak kesempatan, terbukti kontroversi karena condong pada pandangan politik Musk sendiri, memicu teori konspirasi termasuk "genosida kulit putih" dan menggunakan nada "edgy" dan "jenaka".