Deepfake dan Hoaks AI Kian Canggih, Apakah Masyarakat Kita Sudah Siap?

Tampang.com | Video viral seorang tokoh publik yang ternyata palsu, suara mirip pejabat yang tidak pernah diucapkan, hingga konten kampanye yang ternyata hasil manipulasi AI — semua ini menjadi bagian dari fenomena baru: banjir hoaks berbasis teknologi.

Deepfake dan AI Semakin Sulit Dibedakan dari Asli
Teknologi kecerdasan buatan (AI) seperti deepfake kini mampu menciptakan video dan suara palsu dengan kualitas sangat tinggi. Tak sedikit masyarakat yang terkecoh, menyebarkan informasi palsu tanpa sadar.

“Kalau dulu hoaks hanya teks, sekarang bisa suara dan wajah orang terkenal yang dimanipulasi, itu lebih berbahaya,” ujar Damar Juniarto, Direktur Eksekutif SAFEnet.

Literasi Digital Indonesia Masih Rentan
Studi terbaru dari UNESCO dan Kominfo menyebutkan bahwa mayoritas masyarakat Indonesia belum memiliki kemampuan memadai untuk memverifikasi informasi digital. Ini menjadi celah empuk bagi penyebaran hoaks berbasis AI.

“Banyak orang masih percaya semua yang ada di internet itu benar, apalagi kalau disebar akun terkenal,” tambah Damar.

Bahaya Nyata: Manipulasi Politik hingga Penipuan Digital
Deepfake dan teknologi AI tak hanya dimanfaatkan untuk hiburan atau parodi. Di sejumlah negara, termasuk Indonesia, teknologi ini mulai digunakan untuk kampanye hitam, penipuan berbasis suara, hingga rekayasa konflik.

“Kita sedang menghadapi ancaman nyata terhadap demokrasi, privasi, dan keamanan sosial,” kata Damar.

Solusi Bukan Cuma Teknologi, tapi Edukasi Publik
Mengandalkan teknologi pendeteksi saja tidak cukup. Pemerintah, media, dan institusi pendidikan perlu mendorong gerakan literasi digital yang masif. Masyarakat perlu diajarkan cara mengenali konten palsu, menelusuri sumber, dan berpikir kritis.

“Jika publik tidak dibekali keterampilan digital, maka akan jadi korban dari teknologi itu sendiri,” tegas Damar.

Tantangan Etika dan Regulasi Harus Segera Dijawab
Di tengah kemajuan teknologi AI, Indonesia masih belum memiliki regulasi ketat untuk penggunaan deepfake dan manipulasi digital. Tanpa kebijakan yang tegas, ruang digital Indonesia akan semakin rawan disalahgunakan.