OpenAI menemukan bahwa postingan palsu yang diunggah cenderung tidak mendapat respons luas dari netizen karena cenderung terlihat seperti bot.
Selain itu, OpenAI juga menemukan bahwa banyak akun palsu menggunakan gambar yang dihasilkan dengan menggunakan teknologi AI. Bahkan, terdapat lebih dari dua akun yang menggunakan gambar yang sama dengan perbedaan nama. Konten yang disebarluaskan dalam operasi ini berkisar pada konflik Gaza dan hubungan antara umat Yahudi dan Muslim.
OpenAI telah bergerak untuk melawan penyalahgunaan teknologi AI ini. Mereka telah memantau dan menyebarkan laporan indikator-anacam ini kepada para pemangku kepentingan, sementara juga berkolaborasi dengan pihak lain di ekosistem AI untuk bertukar informasi tentang penyalahgunaan AI. Selain itu, mereka juga secara terbuka mempublikasikan temuan penyalahgunaan AI untuk keselamatan bersama di masyarakat.
Selain dari Israel, OpenAI juga mengungkapkan bahwa penyalahgunaan teknologi AI juga terjadi di beberapa negara seperti Rusia, Cina, dan Iran yang juga menggunakan AI untuk menyebarkan narasi yang menguntungkan mereka. Oleh karena itu, kolaborasi dan kerjasama antar lembaga, pihak industri, dan pemangku kepentingan dianggap penting dalam melawan penyalahgunaan AI.
