Di tengah gelombang adopsi kecerdasan buatan yang melanda dunia, pernyataan mengejutkan datang dari orang yang justru berada di pusat revolusi ini. Sam Altman, CEO OpenAI, mengingatkan publik agar tidak menaruh kepercayaan buta pada teknologi AI, termasuk produk buatannya sendiri, ChatGPT. Pernyataan tersebut muncul seiring dengan meningkatnya tingkat kepercayaan masyarakat terhadap kecerdasan buatan, yang sering kali mengaburkan batas antara fakta dan fiksi.
Sam Altman mengejutkan banyak pihak dan memberikan sinyal peringatan yang jelas. Ia terkejut dengan tingkat kepercayaan masyarakat terhadap ChatGPT dan sistem AI lainnya, yang seringkali dianggap sebagai sumber informasi yang akurat dan dapat diandalkan. Namun, realitas yang harus dihadapi adalah bahwa teknologi ini masih memiliki kelemahan mendasar. Salah satu kelemahan yang paling mencolok adalah kecenderungan untuk "berhalusinasi" atau menghasilkan informasi yang salah, tetapi tetap terdengar meyakinkan.
Fenomena "halusinasi" pada AI bukanlah masalah sepele. Ini adalah sebuah kondisi di mana model AI menghasilkan jawaban yang tidak sesuai dengan kenyataan. Ini bisa terjadi karena berbagai alasan, mulai dari data pelatihan yang tidak lengkap hingga algoritma yang tidak dapat menginterpretasikan konteks dengan benar. Altman menegaskan bahwa meski kemajuan dalam teknologi AI sangat mengesankan, pengguna harus tetap skeptis dan berpikiran kritis saat menggunakan teknologi ini.
