Ruang iklan politik Facebook semakin menjadi taman bermain penipuan deepfake dan konten yang menipu, dengan beberapa pengiklan top platform yang memalsukan video politisi Amerika Serikat yang menjanjikan pembayaran pemerintah yang tidak ada.
Musim panas ini, video yang diubah dari sekretaris pers Gedung Putih Karoline Leavitt mengklaim orang Amerika dapat mengklaim cek bantuan $ 5.000, mengarahkan pengguna ke situs bernama Get Covered Today. Video palsu serupa menggambarkan Senator Elizabeth Warren dan Bernie Sanders membuat janji yang sama. "Ini bukan tipu muslihat," peniruan Warren menyatakan, meskipun pada kenyataannya, itu benar.
Menurut analisis baru oleh Tech Transparency Project (melalui The New York Times), 63 pengiklan yang menggunakan taktik menipu tersebut menyumbang sekitar satu dari lima dari 300 pembelanja iklan politik teratas Facebook.
Bersama-sama, mereka menjalankan hampir 150.000 iklan, menghabiskan hampir $49 juta selama tujuh tahun terakhir. Sementara banyak dari akun ini telah ditangguhkan, lebih dari setengahnya terus memposting iklan baru baru-baru ini minggu ini.
"Satu-satunya hal yang lebih buruk daripada video AI deepfake yang digunakan untuk menipu orang Amerika adalah kenyataan bahwa Meta menghasilkan puluhan juta dolar dari iklan penipuan itu," kata Senator Warren, menyerukan perlindungan konsumen online yang lebih ketat.
Meta, yang memiliki Facebook, melarang iklan yang menyamar sebagai pejabat atau menggunakan praktik menipu, mengklaim menegakkan aturan ini "dengan penuh semangat" dan menjanjikan investasi dalam pertahanan teknis. Namun para kritikus mengatakan penegakan perusahaan lambat, sebagian besar otomatis, dan reaktif, mengandalkan pengguna atau peneliti untuk menandai penipuan.
Munculnya alat AI telah membuat pembuatan iklan yang menipu, dan platform media sosial sekarang menjadi vektor utama untuk penipuan online, melampaui penipuan telepon atau teks. Regulator dan pemerintah federal, termasuk Singapura, menekan Meta untuk menindak tindak keras, mengancam denda jika platform tidak bertindak.
Karena pendapatan iklan untuk Meta mendekati $160 miliar per tahun, analisis Proyek Transparansi Teknologi menunjukkan bahwa keuntungan jangka pendek sering kali lebih diutamakan daripada integritas platform dan keamanan pengguna.
"Pendulum telah berayun ke arah pertimbangan pendapatan jangka pendek yang lebih banyak dibandingkan dengan kesehatan jangka panjang platform," kata Rob Leathern, mantan karyawan Meta dan pakar kepercayaan online. "Mungkin pada titik tertentu itu harus berayun ke arah lain."
