Contohnya, sebuah video yang memperlihatkan pemimpin dunia mengucapkan pernyataan sensitif—padahal tidak pernah terjadi—dapat menciptakan kekacauan dalam waktu singkat.
Munculnya Alat Deteksi AI vs AI
Sebagai respons terhadap peningkatan kualitas deepfake, sejumlah perusahaan teknologi besar dan peneliti kini berlomba-lomba menciptakan alat pendeteksi deepfake otomatis. Beberapa di antaranya menggunakan AI juga, menciptakan semacam perang teknologi antara pembuat dan pembongkar video palsu.
Deteksi dilakukan lewat analisis mikro-ekspresi, ketidaksesuaian pencahayaan, pergerakan pupil mata, hingga inkonsistensi gerakan bibir. Namun karena model deepfake juga terus belajar, hasilnya jadi semacam perlombaan tanpa garis akhir.
“Sekarang kami tidak bicara lagi soal ‘bisa mendeteksi atau tidak’, tapi seberapa cepat kami bisa mendeteksi sebelum video menyebar luas,” ujar seorang peneliti keamanan digital.
Ancaman untuk Demokrasi dan Privasi
Ketika orang bisa melihat dan mendengar sesuatu yang tidak pernah dikatakan atau dilakukan, batas antara fakta dan kebohongan menjadi kabur. Deepfake berpotensi menjadi alat ampuh untuk manipulasi politik, pemerasan, bahkan sabotase sosial.
Beberapa negara mulai mengusulkan regulasi untuk membatasi pembuatan dan penyebaran konten deepfake, terutama menjelang pemilu atau situasi genting. Tapi di sisi lain, sulit untuk membatasi teknologi yang bersifat open source dan terus berkembang.
