Hal serupa juga ditemukan oleh perusahaan perangkat lunak DoubleVerify yang melaporkan peningkatan aplikasi ponsel dan smart TV dengan ulasan buatan AI. Review tersebut bahkan digunakan untuk menyesatkan pengguna agar mengunduh aplikasi berbahaya yang bisa mencuri data, menampilkan iklan spam tanpa henti, bahkan mengambil alih perangkat.
Kekhawatiran ini semakin diperkuat oleh tindakan Komisi Perdagangan Federal (FTC) yang secara resmi menggugat perusahaan pembuat alat penulisan AI bernama Rytr. FTC menyatakan bahwa layanan tersebut memungkinkan pelanggannya membuat ribuan ulasan palsu untuk berbagai bisnis, termasuk layanan perbaikan rumah dan penjual produk tiruan. Tahun ini, FTC pun telah mengeluarkan aturan yang melarang praktik jual beli ulasan palsu, sebagai upaya melindungi konsumen dari informasi menyesatkan.
Di sisi lain, beberapa pengembang perangkat lunak seperti Pangram Labs juga sedang mengembangkan alat pendeteksi ulasan berbasis AI. CEO-nya, Max Spero, mengklaim bahwa perangkatnya dapat mendeteksi ulasan AI yang tampil di posisi atas pencarian Amazon. Ia menyebutkan bahwa ulasan semacam ini biasanya sangat rapi, panjang, dan menggunakan struktur yang terlihat meyakinkan namun sebenarnya penuh frasa kosong.
Sayangnya, proses membedakan ulasan asli dan palsu tidak semudah kelihatannya. Amazon bahkan menyebut bahwa pihak luar sering tidak memiliki akses ke sinyal data internal yang dibutuhkan untuk mendeteksi penyalahgunaan sistem. Selain itu, banyak pelaku yang semakin cerdik dalam menyamarkan aktivitas mereka.
Misalnya, di platform seperti Yelp, banyak akun pengguna berusaha mendapatkan lencana "Elite" agar lebih dipercaya. Mantan penyidik federal Kay Dean menyebutkan bahwa para pelaku ulasan palsu aktif mengejar lencana ini karena dianggap meningkatkan kredibilitas profil mereka.
Namun, penting dicatat bahwa tidak semua ulasan buatan AI bertujuan menipu. Sebagian pengguna memang memanfaatkan AI untuk menyampaikan pendapat asli mereka secara lebih rapi atau untuk memastikan tata bahasa mereka benar—terutama bagi pengguna yang bukan penutur asli bahasa Inggris. Dalam kasus seperti ini, AI dianggap bisa meningkatkan kualitas review.
