OpenAI: Israel Manfaatkan AI untuk Menyebarkan Narasi Anti-Hamas dan Islam Radikal

OpenAI mengungkapkan bahwa Israel telah menggunakan kecerdasan buatan (AI) untuk menciptakan narasi anti-Hamas dan Islam radikal. Operasi tersebut, yang dinamakan 'Zero Zeno', dilaporkan telah melibatkan berbagai platform media sosial seperti Twitter (sekarang dikenal sebagai X), Facebook, Instagram, situs web, dan YouTube.

OpenAI mengindikasikan bahwa taktik ini diduga dilakukan oleh sebuah firma manajemen kampanye politik di Israel yang dikenal sebagai STOIC, yang menyewa aktor ancaman untuk menyebarkan konten negatif terhadap Hamas, Qatar, serta Islam radikal, sekaligus mem-posting konten pro-Israel, anti-BJP, dan pro-Histadrut.

Operasi ini ditujukan kepada audiens di Kanada, Amerika Serikat, dan Israel dengan menggunakan bahasa Inggris dan Ibrani. OpenAI juga menemukan bahwa operasi ini telah melebar ke negara lain, khususnya India.

Operasi 'Zero Zeno' mencakup penggunaan model AI dari OpenAI untuk menghasilkan artikel web, komentar di media sosial, serta menciptakan akun palsu beserta biodata di platform-platform sosial media. Bahkan, aktor yang terlibat dalam operasi ini juga menggunakan AI untuk melakukan penelitian terhadap individu di Israel yang mengomentari terbuka tentang serikat buruh Histadrut.

OpenAI menemukan bahwa postingan palsu yang diunggah cenderung tidak mendapat respons luas dari netizen karena cenderung terlihat seperti bot.

Selain itu, OpenAI juga menemukan bahwa banyak akun palsu menggunakan gambar yang dihasilkan dengan menggunakan teknologi AI. Bahkan, terdapat lebih dari dua akun yang menggunakan gambar yang sama dengan perbedaan nama. Konten yang disebarluaskan dalam operasi ini berkisar pada konflik Gaza dan hubungan antara umat Yahudi dan Muslim.

OpenAI telah bergerak untuk melawan penyalahgunaan teknologi AI ini. Mereka telah memantau dan menyebarkan laporan indikator-anacam ini kepada para pemangku kepentingan, sementara juga berkolaborasi dengan pihak lain di ekosistem AI untuk bertukar informasi tentang penyalahgunaan AI. Selain itu, mereka juga secara terbuka mempublikasikan temuan penyalahgunaan AI untuk keselamatan bersama di masyarakat.

Selain dari Israel, OpenAI juga mengungkapkan bahwa penyalahgunaan teknologi AI juga terjadi di beberapa negara seperti Rusia, Cina, dan Iran yang juga menggunakan AI untuk menyebarkan narasi yang menguntungkan mereka. Oleh karena itu, kolaborasi dan kerjasama antar lembaga, pihak industri, dan pemangku kepentingan dianggap penting dalam melawan penyalahgunaan AI.