Penting untuk memahami bahwa AI, termasuk ChatGPT, tidak memiliki pemahaman yang sama seperti manusia. Mereka tidak bisa membedakan antara informasi yang benar dan salah; mereka hanya menghasilkan teks berdasarkan pola dan contoh yang telah mereka pelajari sebelumnya. Hal ini menciptakan risiko besar, terutama ketika AI digunakan dalam konteks di mana informasi yang akurat sangat penting, seperti di bidang kesehatan, hukum, atau media.
Dalam wawancaranya, Sam Altman mengatakan bahwa masyarakat perlu mengedukasi diri mereka sendiri tentang batasan teknologi AI. Ia mengajak pengguna untuk tidak hanya mengandalkan hasil yang diberikan oleh AI, tetapi juga untuk melakukan verifikasi informasi dan berpikir kritis. Ini adalah ajakan terbuka untuk menggunakan kecerdasan buatan secara bijak.
Meskipun perangkat seperti ChatGPT memiliki potensi luar biasa dalam membantu tugas sehari-hari, tidak bisa dipungkiri bahwa ketergantungan total pada teknologi ini dapat menimbulkan risiko. Misalnya, banyak orang yang menggunakan ChatGPT untuk menjawab pertanyaan sekolah atau mencari informasi dasar, namun hasil yang didapatkan tidak selalu benar. Dalam konteks ini, penggunaan AI seharusnya diimbangi dengan pengetahuan dan pemahaman yang cukup dari pengguna itu sendiri.