MIT Technology Review memberikan gambaran konkret mengenai besarnya energi yang digunakan dalam satu sesi permintaan AI. Misalnya, jika seorang pengguna meminta model Llama 3.1 8B untuk menyusun jadwal dan rencana liburan, energi yang digunakan mencapai 57 joule, dan jika digabungkan dengan energi pendinginan serta proses lainnya, totalnya bisa mencapai 114 joule. Itu baru satu permintaan dari satu pengguna.
Kondisinya semakin ekstrem saat menggunakan model AI yang lebih besar dan kompleks. Untuk model Llama 3.1 405B, permintaan serupa dapat memakan energi hingga 3.353 joule, dan total keseluruhan mencapai 6.706 joule. Jumlah ini setara dengan menghidupkan microwave selama delapan detik hanya untuk satu perintah AI!
Penggunaan energi yang besar ini bukan hanya berlaku pada AI berbasis teks. AI yang menghasilkan konten visual seperti gambar dan video juga membutuhkan energi yang sangat tinggi. Sebagai contoh, menghasilkan gambar berukuran standar 1024x1024 piksel menggunakan Stable Diffusion 3 Medium, yang merupakan model populer dengan 2 miliar parameter, membutuhkan sekitar 1.141 joule energi GPU, dan total konsumsi energinya bisa mencapai 2.282 joule.
Untuk urusan video, konsumsi energinya jauh lebih besar. Peneliti AI, Sasha Luccioni, melalui uji coba menggunakan model pelacak karbon Code Carbon, menemukan bahwa pembuatan video pendek delapan frame per detik dengan resolusi kasar—mirip seperti format GIF—membutuhkan sekitar 109.000 joule energi. Dan ketika model digunakan untuk menghasilkan video berdurasi lima detik dalam resolusi lebih baik, konsumsi energi melonjak hingga 3,4 juta joule, yang setara dengan menyalakan microwave selama satu jam penuh!
Melihat data ini, menjadi jelas bahwa di balik setiap interaksi kita dengan teknologi AI, ada biaya lingkungan yang cukup besar. Kecanggihan teknologi memang memberi banyak manfaat, tetapi dibutuhkan pendekatan berkelanjutan untuk mengelola dampak buruknya, terutama terhadap lingkungan.
