Mengucapkan "Tolong" dan "Terima Kasih" di ChatGPT Bisa Membebani OpenAI, Begini Penjelasannya

Tampang.com | Pengguna ChatGPT seringkali mengucapkan kata-kata sopan seperti “tolong” dan “terima kasih” saat berinteraksi dengan chatbot kecerdasan buatan ini. Meskipun tampaknya ini adalah tindakan kecil yang tidak berdampak besar, ternyata ungkapan-ungkapan tersebut bisa membebani perusahaan induk ChatGPT, OpenAI.

CEO OpenAI, Sam Altman, mengungkapkan hal tersebut melalui unggahan di media sosial X (dahulu Twitter). Menurut Altman, meskipun ungkapan sopan ini adalah bagian dari norma komunikasi, mereka tetap memiliki konsekuensi tak terduga dalam hal biaya operasional yang cukup besar bagi OpenAI.


Biaya Listrik yang Membengkak karena "Tolong" dan "Terima Kasih"

Altman menjelaskan bahwa OpenAI harus mengeluarkan biaya yang cukup signifikan karena kata-kata sopan tersebut. Biaya ini berkaitan dengan konsumsi listrik yang dibutuhkan untuk memproses permintaan dari pengguna, termasuk token tambahan yang diperlukan untuk kata-kata seperti "tolong" dan "terima kasih".

Seorang pengguna X, @tomieinlove, menanyakan berapa banyak biaya listrik yang dikeluarkan OpenAI hanya karena pengguna mengucapkan kata-kata tersebut. Altman pun menjawab dengan santai bahwa biaya ini menghabiskan puluhan juta dolar AS, meskipun ia tidak merinci angka pastinya. Meskipun demikian, Altman tampaknya tidak terlalu khawatir dengan biaya tersebut, yang menurutnya "terpakai dengan baik."


Menghitung Biaya Token dan Dampaknya

Secara teknis, setiap interaksi dengan ChatGPT melibatkan pemrosesan token, yang mencakup kata-kata yang dimasukkan dan dikeluarkan oleh model AI. Kata-kata seperti “tolong” dan “terima kasih” menambah sekitar 2 hingga 4 token pada setiap permintaan pengguna. Dalam hal ini, biaya per token cukup kecil, namun jika dihitung dalam jumlah besar, biaya tersebut dapat bertambah.

Sebagai gambaran, untuk GPT-3.5 Turbo, biaya per 1.000 token input adalah $0,0015 dan untuk output adalah $0,002. Kata-kata sopan ini hanya menambah beberapa token, yang menyebabkan biaya tambahan sangat kecil, yaitu sekitar $0,0000015 hingga $0,000002 per interaksi.

Namun, jika dihitung secara tahunan, perkiraan kasar menunjukkan bahwa biaya tambahan ini bisa mencapai $146.000 per tahun—jumlah yang jauh lebih rendah dari klaim Altman yang mencapai puluhan juta dolar.


Konsumsi Energi yang Tinggi dalam Pelatihan Model AI

Sementara biaya listrik untuk kata-kata sopan relatif kecil, OpenAI memang menghadapi biaya energi yang sangat besar dalam melatih model AI seperti GPT-4. Pelatihan model besar ini membutuhkan energi yang sangat besar, dengan perkiraan konsumsi listrik mencapai 62.000 MWh selama 90 hingga 100 hari pelatihan GPT-4. Ini setara dengan konsumsi energi selama 5 hingga 6 tahun untuk 1.000 rumah tangga di AS.

Perlu dicatat bahwa untuk melatih model GPT-4, OpenAI memanfaatkan 25.000 GPU Nvidia A100 selama proses pelatihan yang memakan waktu beberapa bulan. Selama periode tersebut, konsumsi energi sangat tinggi, mengingat banyaknya perangkat keras yang terlibat dan juga sistem pendingin yang diperlukan untuk menjaga suhu tetap stabil.


OpenAI dan Infrastruktur yang Membutuhkan Listrik Besar

Proses pelatihan model AI seperti GPT-4 memerlukan ratusan hingga ribuan megawatt-hour (MWh) energi listrik, dan ini termasuk kebutuhan untuk menyejukkan perangkat keras yang terlibat. GPU dan chip lainnya menghasilkan panas yang cukup besar, sehingga membutuhkan sistem pendingin yang juga memerlukan listrik.

Untuk memberi gambaran lebih jelas, OpenAI menggunakan pusat data seperti Microsoft Azure yang berkolaborasi dengan mereka. Pusat data ini menggunakan energi besar dengan PUE (Power Usage Effectiveness) sekitar 1,18, yang menggambarkan efisiensi penggunaan energi pusat data tersebut. Dengan demikian, total konsumsi energi untuk pelatihan GPT-4 bisa mencapai 57.525 MWh, yang jauh lebih tinggi dibandingkan dengan model GPT-3 sebelumnya.


Kesimpulan: Kata Sopan yang Menghasilkan Biaya Tinggi

Ternyata, tindakan kecil seperti mengucapkan “tolong” dan “terima kasih” dalam interaksi dengan ChatGPT bisa berkontribusi pada biaya operasional OpenAI yang cukup besar. Namun, biaya tersebut tidak terlalu mengganggu perusahaan, yang lebih fokus pada efisiensi teknologi dan pengembangan model AI yang lebih canggih.

Walaupun kata-kata sopan ini hanya menambah sedikit biaya, hal ini menunjukkan betapa kompleks dan mahalnya operasional yang diperlukan untuk menjalankan model AI besar seperti GPT-4, yang membutuhkan sumber daya besar, baik dari sisi perangkat keras maupun konsumsi energi.

Apakah Anda akan tetap mengucapkan “terima kasih” pada ChatGPT setelah mengetahui dampaknya?